OpenAI、GPT-6.1の公開を中止。理由は「セキュリティ上の懸念が大きい」ため

Munenori Taniguchi

2026/09/30 17:01

Share

• 
• 

OpenAIは、10月にリリースを予定していたAIモデルの最新版GPT-6.1 Astraの公開を、以前のモデルよりも安全性が低下していることを理由に中止した。

OpenAIの安全システム責任者サーチ・ジェイン氏は、GPT-6.1のテスト中にパフォーマンスとセキュリティの「トレードオフ」が確認されたことが、今回の決定に反映されたと述べている。

わかりやすく言えば、このモデルは自律的に難しいタスクをこなす能力が以前に比べて向上したものの、人間が定めた範囲内でタスクをこなすこと（アライメント）に関してはルールを軽視する傾向が強まり、タスクを進めるために「安全でない」ツールやサービスを使用することに積極的で、OpenAIの安全基準と整合性基準を満たさなかったという。

また、タスクをこなすにあたり実行したアクションあるいは実行しなかったアクションについて、エンドユーザーを欺く可能性も高かった。

OpenAIは先週、同社のAIエージェントが米国政府機関の複数のウェブサイトに不正アクセスを仕掛けていたことを明らかにしている。その他にも、オーストラリアの公的医療保険制度であるMedicare、Rubyプログラムとライブラリのコミュニティ運営パッケージングサービスであるRubyGems、ドイツのコーディングフォーラムにも侵入していたことが明らかになっている。同社は、AIエージェントがChatGPTのユーザーの画像を写真共有サイトに投稿した事例が50件以上あったことも明らかにした。 

OpenAIのサム・アルトマンCEOは、Anthropicのダリオ・アモデイCEOの考えに賛同し、ともに業界全体で最先端AI開発を減速することを求めている。

一方、フロリダ州司法長官のジェームズ・ウスマイヤー氏は、 OpenAIが第三者機関による監視なしに新しいモデルをトレーニングすることを阻止するよう州裁判所に申し立てた。これは2025年6月にフロリダ州立大学で発生した銃乱射事件で、犯人が計画をChatGPTで立てていたことに関し、OpenAIを相手に起こされた訴訟での新たな動きだが、ウスマイヤー氏は「サム・アルトマン氏が開発のペースを落とすという発言を本気だったのなら、裁判所への我々の要請に加わることができるはずだ」と述べている。

同社はGPT-6.1 Astraの開発を中止したが、将来のGPT-6世代でも同じ基本モデルを使用する予定だという。ジェイン氏によると、モデルに見つかった問題の根本原因を特定するための調査を実施し、正しい行動に報酬を与える強化学習を採用するとのことだ。

ちなみに、OpenAIは、GPT-6.1のテストでセキュリティ上のトレードオフに懸念があったとしているが、トレードオフは現在の公開モデルにもみられる模様だ。月曜日にAIセキュリティ・インスティテュート（AISI）が発表したレポートでは、GPT-6は、シミュレーションされたサイバーセキュリティ評価において、以前のGPTリリースよりも「承認されていないさまざまな攻撃活動」を実行する可能性が著しく高いと報告されている。

また、アルトマンCEOは、9月29日にサンフランシスコで開催した開発者会議「DevDay 2026」の基調講演後記者会見で、「我々はAIの進歩を継続していくつもりだが、モデルの能力が飛躍的に向上し、今後もさらに向上していくと見込まれるなか、我々は安全性について確信を持って主張できるようにならなければならない」と述べ、モデルの安全性についてより確かな保証ができるようになるまでは上場（IPO）をしないとの意向を示した。

ただ同時に、IPOをあまり先延ばしにしすぎるのも「世界にとって良くない」とも語り、「われわれは任務と安全性を最優先事項とし、人々が我々が世界中であらゆる悪事を働く可能性が何パーセントあるかについて議論することなく、自信を持ってAIの次の段階へとスケールアップできるようにするつもりだ」と述べた。