資金調達する才能は超一流、AGIを任せるには不安

OpenAIアルトマンCEOに「信頼できない」指摘。内部証言100人超の調査報道

多根清史

Image:DIA TV/Shutterstock.com

OpenAIの元・現関係者への聞き取りをもとに、同社のサム・アルトマンCEOを「信頼できない」とする大規模な調査記事を、米The New Yorkerが公開した。

同誌は、アルトマン氏の経営手法に詳しい100人以上への取材に加え、社内メモの精査や本人への12回以上のインタビューを実施したという。総じて内部関係者は、同氏を「相手に気に入られようとして相手が望むことを語る一方で、常に自分を最優先に据える目的で権力を追求する人物」と評している。

ある取締役はアルトマンについて、「通常は同一人物にほとんど見られない2つの特性を持っている。1つは人に好かれたい、あらゆる場面で相手を喜ばせたいという強い欲求。もう1つは、人を欺いた結果として生じる影響に対する、ほとんどサイコパス的とも言える無関心である」と述べている。

The New Yorkerは「決定的証拠」は見つけていないものの、元主任科学者のIlya Sutskeverや元研究責任者のDario Amodeiのメッセージを検証し、「欺瞞や操作の積み重ね」とされる記録を確認したという。両者は、アルトマン氏が高度AIのための安全な環境を育んでいないと結論づけたと伝えられている。

ほか、主な論点は以下の通りである。

  • 「一貫した嘘」のパターン:OpenAIの取締役会は、アルトマンが内部の安全性プロトコルなどについて虚偽の説明を続けていたとされる証拠を含む、約70ページの文書をまとめていた。具体例として、GPT-4が安全性パネルにより承認されたと取締役に誤って報告していたことなどが挙げられている
  • 過去の組織での不信感:アルトマンが以前経営していたスタートアップ「Loopt」では、透明性の欠如を理由に従業員が取締役会へ解任を求めていた。また、かつて会長を務めたY Combinatorでも、不信感を背景に解任されたと報じられている
  • 政府やパートナーへの虚偽報告:米国の情報当局に対し、中国が大規模なAGI開発プロジェクトを開始したとする根拠のない情報を伝え、対抗措置としての資金提供を求めたとされる。さらに提携先であるMicrosoftの幹部からも、「合意を歪曲し、再交渉を迫り、約束を反故にする人物」と評されている
  • 心理的な操作:当時の部下であったアモデイに対し、マイクロソフトとの契約に関する安全性条項をめぐって、ガスライティング(心理的操作)を行ったとされる
  • 制約の排除:将来的に自らを拘束する仕組みを意図的に設計する一方で、実際にその制約が障害となる局面では、その仕組み自体を取り除く傾向があると内部関係者から指摘されている
  • 公的発言の矛盾:AI規制、チャットボットへの広告導入、ChatGPTの音声機能の着想源などについて、公の場での発言に一貫性を欠く点が多いとされる
  • 組織文化の変容と安全性の軽視:CEO復帰後、安全性を重視していたチーム(スーパーアライメント・チームなど)を解体し、安全第一から利益やAGI開発を優先する方向へと組織の軸足を移したことが、不信感を招いている

このような「サム・アルトマン」像は、莫大な資金を要するAGI(人工汎用知能)開発を推進してきた起業家として投資家に評価される一方で、人類の将来に大きな影響を与え得る技術を託す対象としては不安を抱かせるものでもある。もっとも、OpenAIはいまだ安定的な収益を確立しておらず、数年以内に資金が枯渇するとの見方もあるため、その影響力が持続しない可能性も指摘されている。

関連キーワード: