完璧なんてあり得ない
ティム・クック、Apple Intelligenceの「幻覚」を止められる確信はないと述べる
Share
先日のWWDCで、アップルはApple Intelligenceを発表し、AI競争に加わることを世界に示した。しかし、Washington Postのインタビューに応じたティム・クックCEOは、アップルのAIが不正確な情報や誤解を招く情報を生成してしまう「幻覚」とよばれる現象を引き起こさないという自信はあるかとの問いに「100%ではない」と述べた。
クック氏は「われわれの扱う分野でのテクノロジーの即応性について熟慮するなど、やるべきことはすべてやってきたと思っている。そのため、非常に質の高いものになっていると確信している。しかし、正直なところ100%にはほど遠い。100%とは決して言わない」と語っている。
もっとも、クック氏がそう言うのは意外なことではない。WWDC基調講演後のディスカッションで、アップルのAI担当VPであるジョン・ジャナンドレア氏は、自社AIを「最初に公共のウェブ上のデータを使って強化学習を始めた」と述べていた。
もちろん出版社やニュースソースからライセンスされたデータも学習には使用されているが、どこかに誤情報が含まれていれば、AIがそれをもとに回答を生成する可能性もゼロにすることはできないだろう。
やはりインターネット上の公共の情報を強化学習に使用したというGoogle Geminiは、つい先日、ピザに接着剤を塗るよう推奨したことが大きな話題になったばかりだ。ChatGPTも2月に、意味不明な回答を吐き出して人々を困惑させた。
またApple Intelligenceは、可能であればOpenAIのChatGPTに処理を引き渡すようになっている。そのため、アップルがどれだけ自社のAIに気をつけたところで、GPT-4oが間違った回答を出力する可能性は変えられない。
Macからインテル製CPUがなくなるのと同じように、アップル独自のAIチャットボットが完成の域に達すれば、サードパーティのAIソリューションとの連携をなくす可能性もある。少なくともそれまでは、アップルはChatGPTの幻覚を制御できないと考えておくのが良さそうだ（SiriはChatGPTが間違うこともあるとユーザーに忠告してくれるようだ）。
なお、ソフトウェアエンジニアリング担当VPのクレイグ・フェデリギ氏は、将来的にGoogle Geminiなど他のサードパーティーのAIとの連携も考えていると述べており、むしろ他社AIをプラグイン的に使えるようにしていくことも考えられる。
- Source: Washington Post
- via: The Verge BGR
