ボーイングです
Googleの「AIによる概要」、墜落事故のエア・インディア171便をエアバス機と誤報
Share
インド西部の都市アーメダバードで、英国行きエア・インディア171便が離陸直後に墜落する事故が発生した。このような大きな事故が起これば世界中の人々は最新の情報を求めてGoogle検索に集まってくる。ところが、Google検索が表示する「AIによる概要（AI Overviews）」機能が、この事故に関する誤情報を拡散してしまっていることが掲示板サイトRedditに報告された。
Googleで検索したとき、そのすべてでAIによる概要が表示されるわけではないが、昨年の導入開始以来、この機能は徐々に多くのユーザーで表示されるように拡大されてきた。
しかし、あるRedditユーザーは、今回の痛ましい事故についてGoogleで検索をしたところ、AIによる概要が堂々と、エアバスA330型機が離陸直後に墜落したと誤って表示したことを報告した。
ただ、これは毎回ではなく、正しくボーイング機だと表示することもあれば、ややこしいことにエアバスとボーイングの両方に問題があったとする、混濁した情報を吐き出すこともあるとのことだ。なお正しくは、墜落した機体はボーイング787-8ドリームライナーだ。
GoogleのAIが、なぜボーイングを誤ってエアバスが落ちたと書き出しているのか、具体的な理由はわからない。だがおそらくは、この事故に関する記事の多くで、エアバスがボーイングのライバルとして言及されているからではないかと考えられる。AIによる概要は、基本的にウェブ上の情報を要約して書き出すものであり、生成結果が正しいかどうかは確認しない。そのため、生成結果は毎回異なり、誤報であっても気にしない。
GoogleはAIによる概要の下に、免責事項としてAIの回答には間違いが含まれる可能性があることを記している。しかし、それはあまり目立つものではない。
ヘルプページにも「不正確な情報や不適切な情報を提供する」ことがあるとし「AI による概要の回答は批判的に検討してください」と注意を促しているが、わざわざヘルプページを見る人もほとんどいないだろう。
今回のようなセンセーショナルな事故の直後に、ウェブ検索において圧倒的なシェアを持つGoogleが、堂々と誤報を拡散すれば、注意喚起の文言もユーザーの目には入りにくそうだ。
大手AI企業は次々とAIに関する新製品や新サービスを発表しており、話題に事欠かない。一方で、いまもなおAIが幻覚を見る現象は払拭できていないことは覚えておくべきと言えそうだ。
- Source: Reddit
- via: Ars Technica
