せめて公開前にチェックしてください
米Amazon、『Fallout』に付けられたシーズン1のAI要約動画が間違いだらけで物議
Share
米Amazonはプライムビデオで配信する作品にAI生成の要約動画を導入した。最初にこの機能に対応した動画は『Fallout』をはじめ『ジャック・ライアン』『アップロード』『BOSCH/ボッシュ』『リグ ～霧に潜むモノ～』といったオリジナル作品だ。
プライムビデオは以前に、X-Rayと呼ばれる要約機能を導入したことを覚えているだろうか。あれもAIを活用してテレビ番組のエピソードやシーズンのネタバレなしの要約テキストを提供するものだった。今回のAI要約動画は、ナレーション、セリフ、音楽を含む動画形式で映像作品の要約が生成される。
視聴者がザワついているのは、もうすぐシーズン2が配信される予定の人気ゲーム原作のSFドラマ『フォールアウト』だ。このドラマのシーズン2のページがオープンし、そこに配置されたシーズン1を振り返る要約動画には、終末後の世界「ウェイストランド」の様子を描いた番組に関する重要な詳細が、AI生成のナレーション付きで紹介されているが、それがところどころ間違っているのだ。
たとえば、番組内で西部劇のガンマン風のグールであるクーパー・ハワードの回想シーンが出てくるが、AIはそのシーンを「1950年代」と記している。しかし、このドラマにおけるこのシーンは2077年だ。たしかにそこに登場する自動車や家、ファッションなどは1950年代風だが、これは原作ゲームにあるレトロフューチャー的な設定を再現したものだ。
AIはそういった背景を知らず、映像だけで年代を判断したのだろう。さらに、シーズン1のエンディングでグールが主人公ルーシーに提案した内容も誤っている。こうした誤りは他にも散見されている。
AmazonのAIは、シーズン1を通じて参照し、そこから映像と音楽、台詞を組み合わせて一見は一貫性のある要約動画を生成するように見えるが、全体を通してそのストーリーを理解しているわけではないようだ。
別にシーズン1の要約が間違いだらけだろうが、視聴者がシーズン2を楽しむことを妨げるわけではない。ただAmazonのAIツールが信頼できないことを人々に印象づけるだけだ。さらに、この間違いだらけの動画を公開する前に人間のスタッフがきちんと確認していれば、簡単に解決できたはずの問題でもあり、Amazonの企業としての姿勢にも視聴者は不安を覚えるかもしれない。
残念ながら、AmazonのAI絡みの品質管理の欠如は今回の事例にとどまらない。最近では、『BANANA FISH』などのアニメ作品の吹き替えにAI生成の音声を付与した結果、特に重要なシーンで感情表現が場違いな感じにズレた酷い表現の音声で流されるなど、視聴者に違和感を覚えさせるものとなってしまっていた。この事例では、全米声優協会がこのAI吹き替えを「AIの粗悪品」だと表現する声明で糾弾した。
このAI吹き替えは程なくして削除された。きっと、今回のAIビデオ要約も削除され、新しいシーズン1の要約が作成されて公開されるだろう。今後もAmazonはプライムビデオにAI生成コンテンツを追加しては、視聴者がAIによる仕事の品質の低さに気づき、AmazonがそのAIの欠陥を修正するサイクルが繰り返されて、少しずつ改善していくことになるのかもしれない。
