AI生成ディープフェイクの87％が「Grok」、6件に1件は性的画像との調査結果

多根清史

2026/08/13 16:00

Share

• 
• 

Resemble AIは2026年上半期について、ディープフェイク攻撃に関連したAI生成ファイルの87％を、イーロン・マスク氏のGrok AIが占めていたとの調査結果を報告している。同社は、音声・画像・動画のディープフェイク検出や、生成コンテンツの安全管理を企業向けに提供するAI企業である。

研究者らは1,760件のニュース報道を調査し、821件の検証済みディープフェイク攻撃を集計した。確認された被害者は少なくとも1万5,736人、記録された合成画像・動画・音声は約346万件に上る。そのうち、生成ツールを特定して「カウント可能なファイル」に限ると、Grokによる生成物が約87％を占めていたという。

ただし、この調査は全世界のディープフェイク被害を無作為に測定したものではなく、あくまで公に報じられた事件に基づいている。しかも、87％という割合は生成ツールを特定できたファイルに限った数字だ。報道されていない事件や被害が統計から漏れている点にも留意すべきだろう。

そうした但し書きを考慮しても、広く利用されているGrokが、どれほど悪用や不正利用のツールとして転用されているかを示す数字だといえる。

今回の調査結果は、マスク氏がGrokに巨額の資金を注いでいるなかで明らかになった。Business Insiderによると、SpaceXによるxAI買収後、マスク氏は全社ミーティングで、SpaceXのAI事業の収益が早ければ9月にも、その他すべての製品からの収益を上回ると述べたという。

SpaceXは最新四半期に25億6,000万ドルのAI収益を報告しており、Grokとそれを支えるインフラが同社の将来の中核に位置付けられている。そのため、Grokの利用実態を、急速な商業的成長と切り離して考えることが難しくなっている。

さらにResemble AIは、821件の攻撃のうち137件、およそ6件に1件が、成人または子どもの同意のない性的画像に関係していたことを明らかにした。Grokは今年初め、他人の写真を「性的加工」する用途に利用され始めたことで、激しい批判にさらされていた。

欧州委員会は、Grokが生成した性的な画像をめぐり、Xに対する正式な調査を開始した。このほか、米国や英国、オーストラリアなど各国の当局も、このツールを精査している。

Resemble AIは、記録された画像を許可または配布した企業が、米国法の下で最大22億4,000万ドルの潜在的な民事責任を負う可能性があると推定している。ただし、この数字はあくまで試算であり、XやGrokに対して実際に判決や賠償命令が出た金額ではない。

一方、レポートが確認した直接的な金銭的損失は695万ドルにとどまる。しかし、多くの事件では評判の毀損や嫌がらせ、性的搾取が関係しており、性的ディープフェイクが金額には換算できない継続的な被害をもたらす可能性を示している。