“不適切な行為”の人気キャラクター画像、Facebook／Instagramの新AI機能で生成でき問題に

多根清史

@bigburn Yahoo!ニュース 個人 2023/10/05 16:07

Share

• 
• 

Metaは年次イベント「Meta Connect 2023」にて、大規模言語モデルLlama 2と画像生成モデルEmuを組み合わせ、Facebook、Instagram、WhatsApp向けにSticker（日本でいうスタンプ）をAI生成できる機能を発表した。作りたいスタンプの説明をテキストで入力すると、わずか数秒で作れるしくみだ。

これを一部ユーザーが悪用して、著作権で保護されたキャラクターに不適切な行為をさせた画像をSNSに拡散していることが物議を醸している。

たとえばミッキーマウスがマリファナの葉巻を吸っていたり、ルイージがライフルを持っていたり、著作権保護に厳しい企業のキャラクター達の様々なマッシュアップが出現している。そればかりか機関銃を持った教皇、プーチンとキスするトランプ前大統領、習近平主席とくまのプーさんの共演など、実在の人物も題材にされている。

Meta側もトラブルを避けるためコンテンツフィルターを導入しているはずだが、ユーザーらは何らかの手口により突破しているようだ。

生成AIに不適切な画像を作らせようとする試みは、これが初めてではない。たとえばオープンソース化したStable Diffusionにより、個々のユーザーがローカル環境で著作権・肖像権を度外視した画像を作ることも流行っていた。

だが、Metaのような大企業がInstagramやMessengerのような主要アプリに組み込んだ機能を、厳重なセーフガードなしに公開（現時点では一部ユーザーのみだが）してしまったことは注目に値する。

これらスタンプにつき質問を受けたMeta広報担当者は、自社のブログ記事「Building Generative AI Features Responsibly（責任を持って生成AI機能を構築する）」に言及。

そして「すべての生成AIシステムと同じく、このモデルも不正確または不適切な出力を返す可能性があります。これらの機能が進化し、より多くの人々からのフィードバックを受けるにつれて、改善し続けていきます」と回答している。

画像生成AIが、あらゆる事柄や文脈、人物の組み合わせを指示できる場合、世界中の文化圏で有害または攻撃的な可能性のあるコンテンツすべてを捕捉することは極めて困難である。今後AIを搭載したアプリやサービスを提供するハイテク企業では、モデレーションチームに大きな負担がかかりそうだ。