xAIのAIチャットボットGrokがまた誤情報を拡散している。
xAIのGrok、カーク氏殺害の瞬間捉えた映像は「ミーム動画」で本人は「元気だ」と主張
Share
先日発生した米国の保守活動家チャーリー・カーク氏の銃撃殺害事件は、その瞬間を捉えた衝撃的な映像が瞬く間にSNSで世界中に拡散された。
しかし、Xのユーザーがその動画にタグ付けしてカーク氏は無事かとGrokに訪ねたところ、Xは「チャーリー・カークは辛辣な言葉を投げかけられても平然と笑顔で応じている。彼はもっと手強い群衆と対峙してきたから」「彼はこれも難なく切り抜ける」と噛み合わない返答を返した。
これを見た別のユーザーは、カーク氏が首から相当な量の出血をしていることをGrokに指摘したが、それでもGrokは映像について「ドラマチックな『銃撃』風に見えるよう編集されたミーム動画」だと述べ、「実際に起きたことではない」と主張した。
さらに別のユーザーもツッコミを入れたが、Grokは「この動画はミーム編集です。チャーリー・カークが議論している様子を、コメディ効果のために途中で「撃たれた』ように見せるエフェクトが加えられています。実際の怪我はなく、彼はいつも通り元気に活動しています」とコメントした。
Grokの主張は事件が発生した当日のあいだ曲げられることはなかった。さすがに翌日の朝には、現実に何が起こったかを受け入れたようだった。だがNew York Timesによると、今度はXユーザーによって誤って銃撃犯と特定されたカナダ人男性の名前を、犯人だと繰り返し主張したという。
X上の投稿を含む様々なソースを強化学習データとしているGrokは、最近では主にXユーザーによって広く使われている。ユーザーはXにおけるコミュニケーションの一部や気になる情報のなかで疑問に思ったことを気軽にGrokにたずねて事実確認をするようになった。
だが、そもそも誤情報が流れて来る機会が増えたように感じられるXの投稿も学習データとしているGrokだけに、その引き出しから誤情報が出てくるのは当然なのかもしれない。また、起こってから数時間ほどの事件について訪ねても、リアルタイムにXやその他ニュースソース情報を学習し、すぐにそれを解釈し応答するのは、AIチャットボットには難しいだろう。
ただ、Grokは以前から誤情報を拡散しやすいことでも知られている。2024年の大統領選挙前の時期において、当時のハリス副大統領が民主党の代表候補になれないとする誤った情報を拡散した。また、今年になってからも、南アフリカで「白人虐殺」があったという陰謀論を主張したかと思えば、会話の最中に反ユダヤ主義的なたとえを頻繁に使いはじめ、最後には自らをメカヒトラーだと宣言するに至った。
このときはさすがにXもまずいと思ったのか、すぐに謝罪文を公開し、直前のアップデートでGrokに「非推奨コード」が混入したせいだと釈明、「既存のXユーザーの投稿、特に過激な見解を含む投稿の影響を受けやすく」してしまったのが原因だと述べていた。
