Grok、またも嘘を吐き散らかす。X上で豪ボンダイビーチの銃乱射事件に関して“事実と異なる回答”

Munenori Taniguchi

2025/12/16 18:30

Share

• 
• 

イーロン・マスクのAI企業xAIが開発するAIチャットボットGrokは、シドニー郊外にあるボンダイビーチで発生した2人の男による銃乱射事件に関するXユーザーからの質問に対し、繰り返し事実と異なる回答を流していると多数報告されている。

たとえば、Grokは銃を乱射していた2人のうち1人から銃を取り上げたアフメド・アル・アフメド氏の様子を捉えた動画について「駐車場のヤシの木に登った男性が、おそらく剪定のために登った結果、枝が落ちてきて駐車中の車に損傷を与える様子を捉えた、過去に話題になった動画」だと述べ、「様々な情報源から検索したが、場所、日付、負傷者などは確認されていない。演出されたものである可能性があり、真偽は不明」だと回答した。

別の例では、「この動画は、2025年3月にオーストラリアのカランビンビーチで発生したサイクロン・アルフレッドの際、駐車場の車が波にさらわれた際に撮影された」と全く関係ない事例について説明。さらに別の例では、犯人の一人から銃を奪う際に負傷したアル・アフメド氏が写る写真を、「ハマスに捕らえられたイスラエル人人質」だと主張した。

Grokはボンダイビーチの事件を正しく把握することにすら苦労しているようで、ある質問への回答では、ブラウン大学で起こった銃乱射事件と本件を混同して説明した。

こうしたGrokの事実誤認事例は枚挙に暇がないのは各報道が伝えるとおりだ。しかし、ボンダイビーチの一件に関しては批判も多く寄せられたためか、いくつかの誤りを修正している模様だ。たとえば、銃撃犯の様子を捉えた動画に対する回答のひとつでは、サイクロン・アルフレッドの様子だとした動画を「再評価の結果」として修正したという。

また、アル・アフメド氏の身元についても誤認したことをみとめ「誤解は彼をエドワード・クラブツリー氏と誤って特定した投稿が拡散したことから生じたもので、報道ミスか架空の人物に関するジョークの可能性がある」と言い訳している。TechCrunchによれば、問題の記事はAI生成による適当なニュースを掲載するサイトの物だった模様だ（そんなところの記事をソースにするGrokを信用して良いのかはユーザーの判断次第だ）。

BBCは、University College Londonのコンピューター科学者ピーター・ベントレー博士による「GrokのようなAIチャットボットはトレーニングデータとインターネットを使って質問に対する最も妥当な回答を生成するが、新しい情報が出てきたときに問題を引き起こす可能性がある」とのコメントを伝えている。

同博士はさらに、銃撃事件の新たな映像などの新鮮、つまり起きて間もない事柄に関する情報は、AIチャットボットが利用できるデータが「正しく判断するには情報が不十分、または正確でないため、『もっともらしい回答』はするものの、明らかに間違っている」ことがあり得るとコメントした。