Meta、セレブの肖像悪用したAIディープフェイク詐欺への対策が甘いと監督委員会に指摘される

Munenori Taniguchi

2025/06/06 13:20

Share

• 
• 

Metaの監督委員会（Oversight Board）が、Facebookに投稿されたAIディープフェイクによるセレブがオンライン賭博ゲームを宣伝する広告を含む投稿を削除しないとした同社の決定を覆し、そのコンテンツを拒否するべきだと指摘した。この委員会は、同社サービスの「表現の自由と安全に関連判断」の公平性を保つため、2020年に設立されたものだ。

監督委員会は、今回の措置について記した書面で「Metaの規約では、有名人の画像を使って広告への誘導をすることは禁止されているため、Metaはこのコンテンツを広告として拒否すべき」だったとし、「Metaは、一部の本物の有名人による推薦を過度に規制する可能性を避けるため、プラットフォーム上で相当量の詐欺コンテンツを容認している可能性が高い」と述べた。

さらに「Metaは、コンテンツが適切かを判断するレビュアーに対して、簡単に判定できるような指標を提供し、このようなコンテンツの禁止を広範に実施すべきだ」と述べている。そしてMetaに対し、社内ガイドラインの改訂、コンテンツ審査担当者による詐欺行為の特定、AI操作コンテンツの「兆候」に関する研修の実施を強く求めた。

監督委員会が指摘した問題の広告は、オンラインカジノ風ゲーム「Plinko」を宣伝する物で、明らかにAIで似せたロナウドの肖像を利用していることがわかっており、詐欺であるとの報告も50回以上にわたって届け出られていた。だが、Facebookは広告とそれを含む投稿を削除するという判断をすぐに下さなかった。

後にMetaは広告を削除したが、広告を添付していた投稿自体はしばらくそのまま残したため、問題の広告や宣伝文句は60万回以上閲覧されたとみられている。監督委員会は、同様のケースで「相当数の」詐欺コンテンツが見落とされている可能性が高いと述べている。

Metaは「コンテンツに描かれた人物が実際に製品を推奨していないことを確認するためのエスカレーションがあれば、削除ポリシーを適用する」とし、「個々のレビュアーによる『偽の人物像』の解釈は地域によって異なり、適用に一貫性がない可能性がある」と説明している。

またMetaの広報担当者は「近年、詐欺は規模と複雑さを増しており、その原動力は冷酷な国境を越えた犯罪ネットワークだ」と述べ、「こうした行為がより執拗かつ巧妙になるにつれ、我々の対策も強化されて来ている」とした。そして、「今回の件における監督委員会の見解には感謝するが、委員会の主張の多くは全く不正確であるため、規則に従い、60日以内に勧告の全文について返答する」とした。

AI技術が身近になり扱いやすくなった結果、AIディープフェイクによる著名人の肖像を無断使用した詐欺的な広告は増加している。たとえば今年はじめには、イーロン・マスクが謎のサプリメントを宣伝する広告が頻繁にFacebookに表示された。

さらに、ハリウッド女優のジェイミー・リー・カーティスも、自身のディープフェイクを使った広告がFacebook上に表示されており、削除要求を無視されたとしてマーク・ザッカーバーグを名指しで非難した。

監督委員会は、今回の「Plinko」アプリの広告投稿が、Metaのプラットフォーム上で数千件もみつかっていることも指摘している。AIディープフェイクを含む広告も、ロナウドの他に、やはりサッカーのポルトガル代表メンバーであるクリスティアーノ・ロナウドや、MetaのCEOであるマーク・ザッカーバーグのディープフェイクを起用したものなどが発見されているとした。

Metaのプラットフォームにおける詐欺広告の多さを問題視しているのは監督委員会だけではない。Wall Street Journalは、2023年夏から2024年夏にかけて、送金サービスアプリ「Zelle」で報告された詐欺全体の半数近くが、FacebookやInstagramからの誘導で発生していた」と報じた。

WSJは、ほかに「英国とオーストラリアの規制当局も、Metaのプラットフォームで発生した詐欺行為を確認している」と伝え、Metaが広告主に対する摩擦を増やすことにかなり消極的で、広告主の禁止には「難色を示す」傾向が強いと指摘していた。