AI大手が協力、AIのセキュリティを推進する「CoSAI」結成。Google、OpenAI、マイクロソフトら14社

Munenori Taniguchi

@mu_taniguchi 2024/07/19 17:28

Share

• 
• 

Google、OpenAI、マイクロソフト、アマゾン、NVIDIA、インテルほかAI各社は、オープンソースの方法論とフレームワーク、ツールへのアクセスを提供してその安全性を高めていくための団体「Coalition for Secure AI（CoSAI）」を設立する。「断片化しているAIセキュリティの現状」に対処することを目的とし、コンピュータと通信に関する標準化団体である構造化情報標準促進協会（OASIS）の内部団体という位置づけとなる。

CoSAIの立ち上げに賛同し参加したのは上記5社のほか、PayPal、IBM、Anthropic、Chainguard、Cisco、Cohere、GenLab、OpenAI、Wiz。

最近、生成AI技術のセキュリティ、プライバシー、安全性に関する疑問の例として、機密情報の漏洩や、バイアスがかかった決定や行動に関する懸念などがたびたび話題となっている。CoSAIが各社のAI製品、AI業界全体にどう影響するのかはまだわからないが、この団体はオープンソースの方法論、標準化されたフレームワークやツールを通じてガイダンスを提供し、開発者が安全に設計されたAIシステムを開発可能とすることを目指しているという。

特にAIシステムの安全な開発、統合、展開、運用に焦点を当て、モデルの盗難、データ汚染、プロンプトインジェクション（意図的にAIを誤動作させる攻撃手法）、スケールされた悪用、推論攻撃などのリスクを軽減していくとのことだ。

また他のオープンソース コミュニティ プロジェクトと同様に、CoSAI は全体的な技術アジェンダを推進および管理するためのプロジェクト管理委員会と、さまざまな実務を監督するための、業界および学術会のAI専門家で構成される技術運営委員会を設立する。

CoSAIは、その当初の作業において、次の3点に重点を置くとしている。

・AI システムのソフトウェア サプライ チェーン セキュリティ（構成と出所の追跡を強化して AI アプリケーションを保護する）
・変化するサイバーセキュリティ環境に対する防御者の準備（AIと従来のシステムにおける投資と統合の課題への対処）
・AI セキュリティガバナンス（AI セキュリティのベストプラクティスとリスク評価フレームワークの開発）

CoSAI理事会共同議長を務めるGoogleのDavid LaBianca氏は、CoSAIの設立について「CoSAIはAIの安全な統合と展開に不可欠な知識と進歩を民主化する必要性から設立された。OASIS Openの支援を得て、主要各社、専門家、学界の間でこの取り組みとコラボレーションを継続していくことを楽しみにしている」と述べた。