テイラー・スウィフトが調理器具のプレゼント告知をするAIフェイク動画、TikTokやFacebookで流れる

Munenori Taniguchi

@mu_taniguchi 2024/01/11 16:23

Share

• 
• 

「こんにちは皆さん、私はテイラー・スウィフトです」 「梱包ミスのため、ル・クルーゼの調理器具セット3,000個を販売することができません。そこで、熱心なファンの皆さんに無料で差し上げます」

まるで誤発注した大量の商品を買ってほしいと、Twitterで呼びかるどこかの小売店のような動画だが、これが最近TikTokやFacebook、InstagramといったSNSに流れ、文字どおり熱心なテイラー・スウィフトのファンの一部が騙され、詐欺被害に遭ったとNew York Timesが報じた。

この動画に登場している女性はテイラー・スウィフト本人のように見えるが、その正体はディープフェイクで作られた偽物だ。以前なら顔が本人そっくりに仕上げられていても、話し声には違和感があったものだが、昨今のAI技術は本人の声のサンプルを学習することで、ほとんど識別できないほど本人そっくりにしゃべらせることが可能になってきている。

このフェイク動画の一部のバージョンでは、スウィフトがカメラに向かって「スウィフティーズ（スウィフトのファンを指す名称）」と語りかけ、調理器具をファンに配るのが楽しみだと話すシーンがあったという。

調理器具メーカーのル・クルーゼは、商品広告についてスウィフトとは関わりがなく、今回の件に関しては消費者に対し、プレゼントや広告については公式のオンラインアカウントを確認するよう警告している。

AIを使用した広告詐欺としては昨年10月、歯科治療法を宣伝する広告に、俳優のトム・ハンクスのフェイク画像が使われた例が記憶に新しいところだ。また同時期、米CBSの人気トーク番組司会者ゲイル・キングもダイエット商品の広告でフェイク動画を使用され、消費者に「騙されないで」と呼びかけていた。