カリフォルニア州知事、AIの安全に関する州法案に拒否権発動。「誤った安心感」与える可能性を指摘

Munenori Taniguchi

@mu_taniguchi 2024/09/30 16:39

Share

• 
• 

カリフォルニア州知事のギャビン・ニューサム氏は、州議会が可決したAIに関する州法案「SB 1047」への署名を拒否した。この法案は8月15日にカリフォルニア州議会での審議を通過しており、知事が署名すれば施行へと向かう段取りだった。

SB 1047は、大規模AIモデルが人類に対しもたらす可能性のある、現実世界への「重大な危害」を未然に防ぐために、AIモデル開発企業に安全対策の実施を義務づけることを目的としている。

「重大な危害」の例として、法案の中では、悪意のある人物がAIモデルを使用して大量の死傷者を出す兵器を作ったり、5億ドルを超えるような損害をもたらすサイバー攻撃を画策するよう指示したりすることを例に挙げ、このような問題による悪い結果を回避するために、十分な安全対策手順をAIモデルに実装するよう、各開発企業に義務づけようというのがこの法案だ。

この法案についてはJ・J・エイブラムス、ジェーン・フォンダ、ペドロ・パスカル、マーク・ハミル、アリッサ・ミラノらハリウッドの著名人やイーロン・マスク氏が支持を表明するなど注目される一方、AI開発に関わる企業やサンフランシスコ市長のロンドン・ブリード氏、 カリフォルニア州選出の民主党議員8名などには反発されていた。

SB 1047は世界でも最大規模のAIモデルを対象とし、少なくとも1億ドル以上を投資し、モデルの強化学習に10の26乗FLOPSもの膨大な計算リソースを使用するAIを対象としている。

現在はまだ、これほど大規模なAIを開発している企業はほとんどないが、基本的にデータ内のパターンを識別し予測する大規模な統計エンジンであるAIモデルは、規模が大きくなるほど精度が向上する。そのため今後もその大規模化の傾向は続いていくはずだ。Metaのマーク・ザッカーバーグCEOは、同社のLlamaの次世代バージョンは現行バージョンの10倍の計算能力を必要とすると述べていた。Metaだけでなく、OpenAIやGoogle、マイクロソフトなどのAIモデルは、いずれSB 1047が想定する規模に到達するだろう。ちなみに、上位50社のAI企業のうち32社がカリフォルニア州に拠点を置いている。

ニューサム氏は、SB 1047への署名の拒否について「善意から生まれた法案ではあるものの、SB1047はAIシステムがリスクの高い環境に導入されるかどうか、重要な意思決定を伴うかどうか、機密データを使用するかどうかを考慮していない。その代わりに、法案は最も基本的な機能にさえ厳しい基準を適用している。私は、これがテクノロジーによってもたらされる真の脅威から国民を守るための最善のアプローチだとは思わない」と述べた。

またナンシー・ペロシ下院議員も、この法案が善意からのものであることを認めつつ、「十分な情報に基づいていない」と批判していた。そして、ニューサム氏が拒否権を発動したことが発表された後、ペロシ氏はニューサム知事について「大手テクノロジー企業ではなく、小規模な起業家や学術機関にも主導権を握るチャンスを与えるために、私たち全員が共有する機会と責任を認識してくれたことに感謝する」とした。

なお、ニューサム氏はここ1か月ほどの間に、AI技術に関する規制や導入に関する17の法案に署名しており、そのなかにはカリフォルニア州法における人工知能の統一的な定義を確立する法案、数学、科学、歴史のカリキュラムの枠組みと教材に「AIリテラシー」を考慮するよう義務付ける法案、ウェブサイトに公開する文書上でAIシステムのトレーニングに使用したデータを開示することを義務付ける法案、既存の児童ポルノ法の範囲をAIシステムによって生成されたものまで拡大する法案、AI 生成コンテンツを一般市民が識別できるようにする法案、選挙に影響を与える可能性のあるAIディープフェイクを取り締まる法案などが含まれている。

ただ、SB 1047に関しては大規模なAIシステムに焦点を絞りすぎているために「国民に謝った安心感を与えてしまう可能性がある」とした。大規模AIモデルにだけに人々の安全を脅かす可能性があるわけではなく、小規模なモデルにもSB 1047の規制を適用すべきと判断できるものが出てくる可能性があると指摘し、より柔軟に適用できるようなアプローチが必要だとしている。

ちなみに、法案の主要執筆者であるスコット・ウィーナー上院議員は、 Xへの投稿で、この拒否権発動は「公共の安全と福祉、そして『地球の未来』に影響を与える重要な決定を下す大企業の監視を信じるすべての人にとっての後退だ」との声明を出している。