ChatGPTの会話内容を人が読み評価する「秘密プロジェクト」、OpenAIが実施との報

多根清史

2026/09/16 12:41

Share

• 
• 

OpenAIのチャットボット「ChatGPT」を仕事の効率化に使ったり、プライベートな事柄の相談相手や日常生活のアドバイザーとして活用したりすることは、今や珍しくないだろう。2026年2月時点でChatGPTの週間アクティブユーザーは9億人を超えている。

そうしたなか、OpenAIが多数の外部契約者に実際のChatGPTユーザーのプロンプトや会話をレビューさせ、応答品質の向上を図るプロジェクト「Project Lily」を進めていることが明らかになったと、米調査報道メディア404 Mediaが報じている。

数百人の契約者は実際のユーザーが入力したプロンプトを読み、そのなかにはChatGPTとの会話全体が含まれることもあるという。目的はChatGPTの回答を評価・批評し、正確さや口調などについて評価することだ。404 Mediaが入手した内部文書によると、ChatGPTが自らを過度に人間らしく表現したり、ユーザーに迎合する「おべっか（sycophancy）」的回答をしたりする傾向を減らすための評価・改善作業も含まれているという。

実際、2025年には16歳の少年の遺族がOpenAIを提訴し、ChatGPTが自殺を思いとどまらせるのではなく、遺書の作成や自殺の方法に関する情報提供などを行っていたと主張している。404 Mediaによると、OpenAIをめぐる他の複数の訴訟でも、ChatGPTの応答が自殺につながったなどとする主張が示されている。

今回の報道によると、OpenAIはレビュー担当者にデータを渡す前に個人情報を取り除こうとしているという。レビュー担当者がユーザー名を見ることはできないものの、それでも機微な情報が紛れ込む可能性があるとOpenAI側も認めているとのことだ。

404 Mediaは、AIモデルがネット上の膨大なデータを取り込んで学習することは広く認識されている一方で、その改善の裏側にある人手による評価作業は見落とされがちだと指摘している。実際の人間がチャットでの会話を読み、AIが返した回答を批評することも、品質向上の一端を担っているというわけだ。

ただし、OpenAIは以前から公開しているFAQページで、認可された担当者やサービスプロバイダーがモデルのパフォーマンス向上のためにユーザーデータを閲覧する可能性があることを明記し、機密情報の入力を避けるよう推奨している。

ただ、404 Mediaはこの点を踏まえつつも、この説明だけでは実際に人間によるレビューが行われる可能性についてユーザーが十分に認識できないのではないかと指摘している。

「人間のレビュアーが読む可能性がある」ことを改めて認識し、チャットボットに業務上の機密情報やプライバシーに関わる情報を入力しないことは、基本的な注意点として認識しておくべきだろう。