絶対バレるやつ
校長の差別発言をAIでねつ造、解雇させようとしたとして教師逮捕
Share
米メリーランド州ボルチモア郡のパイクスビル高校に勤めていた体育教師が、校長の声に聞こえる人種差別的発言をねつ造、SNSに拡散して校長の解雇を目論んだとして、警察に逮捕・告発された。
地元ニュースサイトThe Baltimore Bannerによると今年1月、パイクスビル高校の校長エリック・アイスワート氏は、本人が黒人学生と周囲のユダヤ人コミュニティについて軽蔑的な発言をしているとされる音声がSNSに拡散されたため、一時的に停職処分を受けていた。
しかしその後、専門家らが問題の音声を調べたところ「平坦なトーン、異常にきれいな背景音、そして一貫した呼吸音や休止音の欠如」などの不自然さから、音声が偽物であることが判明した。
警察はその録音音声の出所を追跡したところ、音声ファイルにニックネーム「DJ」が記されていたことで、同校のアスレチックディレクター（部活動用の備品購入管理、各部のコーチ人事や遠征の計画手配などを担当する役職）だった、ダゾン・ダリエン氏が作成したものである疑いが強まったという。
さらなる調査により、ダリエン氏は学校のコンピューターからOpenAIのツールとBing Chatにアクセスしていたことが判明した。また、ダリエン氏の電話番号に関連付けられた電子メールアドレスが、音声の公開に関わっていたこともわかったという。
4月25日、ダリエン氏は空港からヒューストン行きの飛行機に搭乗しようとしていたところ、銃を所持していたため空港職員に呼び止められた。そして、その時点で逮捕状が出ていたため、警察に通報された。ダリエン氏が逃走しようとしていたかどうかはわかっていない。
警察は、学校側から運動部コーチに一部不適切な支払いがあることに気づいたアイスワート氏が調査を始めたことに危機感を覚えたダリエン氏が、調べを妨害し、アイスワート氏を解雇させるために音声をねつ造したと主張している。
ダリエン氏は今月、学校に辞表を提出しており、6月30日付けで退任する予定だった。また逮捕後は保釈金を支払って釈放されているものの、窃盗（部活動費用の問題）、学校運営妨害、ストーカー行為などの罪に問われているという。
近年、AIによる音声クローン技術は大きく進歩し、短時間のトレーニングで本物と聞き間違えるほどリアルな音声を作り出せるようになってきた。しかしその一方で、すでに悪用される事例も発生している。米国では今年2月、ニューハンプシャー州の民主党予備選挙でジョー・バイデン大統領の声を模倣したAIロボコール（自動電話）が、有権者に選挙に投票しないよう呼びかけて問題になった。
また、2023年にはAIで模倣したドレイクの声で録音されたオリジナル楽曲がYouTubeにアップロードされ、話題となった。
- Source: The Baltimore Banner
- via: The Verge
