元OpenAI サツケヴァー氏、新AI企業「Safe Superintelligence」設立。安全性を商業性より優先

Munenori Taniguchi

@mu_taniguchi 2024/06/20 12:56

Share

• 
• 

OpenAI の共同創設者で元チーフサイエンティストのイリヤ・サツケヴァー氏が、新しいAI企業「Safe Superintelligence Inc. （SSI）」 を設立したことを明らかにした。

SSIは、サツケヴァー氏に加えOpenAIでLLCトレーニングのエキスパートとしてサツケヴァー氏に協力していたダニエル・レヴィ氏、アップルをはじめ数々の企業でAI研究に携わってきたダニエル・グロス氏の3人が共同創業者として関わっている。

サツケヴァー氏はSSIについて、「安全性と機能を並行してアプローチする」スタートアップであり、「短期的な商業的プレッシャー」よりも安全性を優先し「ひとつのことにフォーカスする」ことで「管理上のオーバーヘッドや製品サイクルに気を取られ」るのを防止するとしている。

昨年OpenAIで発生したサム・アルトマンCEOの解任劇では、サツケヴァー氏は当初、取締役会の一員として解任を支持していたものの、途中から考えを改めてアルトマン氏復帰の動きに加わっていた。この解任劇は結果的にアルトマン氏の立場をより強固なものとし、OpenAIをさらに商業路線に走らせることになったとされている。

サツケヴァー氏は結局、アルトマン氏復帰後に取締役会から外れ、今年5月14日にOpenAIを離れることになった。このサツケヴァー氏のOpenAIからの離脱直後には、AI研究者であるヤン・ライケ氏とグレッチェン・クルーガー氏もOpenAIから離れることを相次いで発表していた。ライケ氏はOpenAIの安全性におけるプロセスが「きらびやかな製品よりも後回しにされている」と述べ、クルーガー氏もやはり安全上の懸念を理由に挙げていた。

OpenAIがすでにマイクロソフトおよびアップルと強固な関係を築いており、GoogleやMeta、 Anthropicその他企業のAI製品もそれぞれのサービスで独自のAIを開発していることから、SSIがすぐに消費者のあいだで、新たなAIチャットボットを浸透させることはなさそうだが、サツケヴァー氏はSSIの製品はセーフティでスーパーインテリジェンスなものになることを目指しており「それまで他のことには手をつけない」と述べている。

SSIは、もともとOpenAIが掲げていたコンセプトを踏襲する、研究組織としての特色を強く打ち出している。OpenAIは巨大化するAIの計算能力を確保するために巨額な資金を必要とするようになり、それが商業化へ構造変化を起こすきっかけになったと考えられる。ほかのAIモデルも肥大化の末に同じ方向へ進みつつあり、SSIもそうならないという保証はない。集まった顔ぶれを考えれば、当初の資金調達には困らないと思われるが、数年の後にサツケヴァー氏の顔がアルトマン氏に似て来ないかどうかは、様子を見てみるほかない。

サツケヴァー氏は「話しかけて、会話して、それで終わり」な現在のAIシステムより汎用性があり、機能拡張が可能なAIシステムを目指しているとBloombergに述べ「われわれが貢献したいのはその安全性についてだ」と強調している。