世界的なテクノロジー企業が結集し、AI技術の安全性と信頼性を高めるための新たな団体「Coalition for Secure AI（CoSAI）」が設立された。Google、OpenAI、Microsoft、Amazon、NVIDIAなど、AIの最前線を走る企業が名を連ねるこの連合は、急速に進化するAI技術に対する懸念に応えるべく、セキュリティ対策の標準化と知識の共有を目指している。
AI業界の巨人たちが結束：CoSAIの目的と展望
CoSAIは2024年7月18日、アスペン・セキュリティ・フォーラムにて正式に発表された。この連合は、AIシステムの開発、統合、展開、運用におけるセキュリティの向上を主な目的としている。具体的には、モデルの盗難、データの汚染、プロンプトインジェクション、大規模な悪用、推論攻撃などのリスクを軽減することに焦点を当てている。
CoSAIの設立プレミアスポンサーには、Google、IBM、Intel、Microsoft、NVIDIA、PayPalが名を連ねている。 Amazon、Anthropic、Cisco、Chainguard、Cohere、GenLab、OpenAI、Wizも創立スポンサーとなっている。
CoSAIの設立は、AIセキュリティの分野が断片化している現状への対応策として位置付けられている。現在、開発者たちは一貫性のないガイドラインや基準の寄せ集めに直面しており、AIに特有のリスクを評価し軽減することが大きな課題となっている。
この取り組みの中核となるのは、オープンソースの手法、標準化されたフレームワーク、そしてツールの共有だ。CoSAIは、非営利団体OASISの傘下で運営され、プロジェクト運営委員会が全体的な技術的課題を推進・管理し、学術界や産業界のAIの専門家で構成される技術運営委員会がワークストリームを監督する。
CoSAIは立ち上げ時点で次の3つの点に重点を当てて活動を行う：
- AIシステムのソフトウェアサプライチェーンセキュリティ：AIアプリケーションを保護するための構成とプロベナンス追跡の強化。
- 変化するサイバーセキュリティ環境への防御者の準備：AIとクラシカルシステムにおける投資と統合の課題への対処。
- AIセキュリティガバナンス：AIセキュリティのベストプラクティスとリスク評価フレームワークの開発。
CoSAI運営委員会の共同議長を務めるGoogleのDavid LaBianca氏は、CoSAIの設立について次のように述べている：「CoSAIの設立は、AIの安全な統合と展開に不可欠な知識と進歩を民主化する必要性に根ざしたものです。 OASIS Openの支援により、私たちはこの作業と一流企業、専門家、学界のコラボレーションを継続することを楽しみにしています」。
Googleのサイバーセキュリティレジリエンス責任者であるHeather Adkins氏は、「CoSAIは、大小を問わず組織がAIを安全かつ責任を持って統合するのを支援し、そのメリットを活用しながらリスクを軽減するのに役立つでしょう」と述べている。
この取り組みは、AIの急速な発展に伴う懸念に対応するものだ。昨年、著名人やAI研究者たちが大規模なAIシステムの開発を一時停止するよう求める公開書簡を発表したが、その呼びかけは実現しなかった。CoSAIは、そうした懸念に対して具体的な行動を起こす試みと言える。
しかし、この連合には課題もある。すでに存在するFrontier Model ForumやPartnership on AIなどの組織と役割が重複する可能性があり、その独自性と効果性が問われるだろう。また、業界の巨人たちが集結していることは、リソースの面では有利だが、偏りや利益相反の懸念も生じかねない。
CoSAIの今後の展開と、AIセキュリティへの具体的な貢献が注目される。AI技術の安全性と信頼性の向上は、その普及と社会への統合にとって不可欠な要素となるだろう。
Source
コメント