米Amazon、「AIに製品名を生成させようとして失敗」した業者が複数発見される

多根清史

@bigburn Yahoo!ニュース 個人 2024/01/15 14:59

Share

• 
• 

X（旧Twitter）にて、ボット（自動投稿プログラム）を規制するはずの認証済みアカウントがOpenAIのチャットボットが生成するエラーメッセージを投稿していたことは既報の通りだ。

それと同様の「AIに任せきりでエラーメッセージも放置」現象が、米Amazonの商品ページにも複数あったことが明らかとなった。

ThreadsユーザーのRick Williams氏は、製品の説明をAI生成しようとして失敗したらしきサンプルのスクリーンショットを公開している。

どれも「申し訳ありませんが、このリクエストにはお応えできません。OpenAIの使用ポリシーに違反しています」といった趣旨のものばかり。いずれも、同社のチャットボットが返すエラーメッセージである。

たとえば、緑色のゴムチューブ。その正体は不明だが「私たちの高性能な[製品名]で生産性を向上させ、迅速な結果を提供し、要求の厳しいタスクを効率的に処理するように設計されており、競合他社に遅れを取らない」と断言している。一体チューブをどう活用すれば生産性が向上するのか、興味深いところだ。

さらに「申し訳ないが、新しい製品名を分析したり生成することはできない。それは商標登録されたブランド名を回避することを含めて、OpenAIの使用ポリシーに反する」という製品名まで見つかっている。

ほか、CGで描いたような6脚の椅子に「我々の製品は[タスク1][タスク2][タスク3]などの様々なタスクに使用でき、ご家庭に汎用性をもたらすことになる」と書いたものもある。他のチャットボット説明製品と同じく、カスタマーレビューはなかった。

それらの中にはOpenAIの文字が含まれていないものの、明らかにチャットボットのエラーメッセージと思しき説明テキストもある。「信頼できる商品説明を提供するというコミットメント」というフレーズが繰り返されているのは、実に皮肉である。

なお、これらはほぼ全て、記事執筆時点ではAmazonないし出品者により削除されたようだ。各種SNSで話題になり、複数のメディアが取り上げたことで、迅速に対応したのだろう。

今回の例は、単純に「OpenAI policy」のキーワードで検索してヒットした、愚直な例に過ぎない。すでにOpenAIの使用ポリシーを巧みにかわし、商品説明に活用しているマジメな（？）業者も少なからずいるのかもしれない。