OpenAI、ChatGPTに宿題をさせる学生をあぶり出す「テキスト透かし」を研究中

Munenori Taniguchi

@mu_taniguchi 2024/08/05 12:01

Share

• 
• 

OpenAIは、学生が宿題や課題の回答をChatGPTに書かせる不正行為について、それをあぶり出す手法を研究しているものの、それをリリースすることに関しては「慎重なアプローチ」をとっていると述べた。

同社が研究しているのは、ChatGPTが生成するテキストのなかに特殊なパターンを埋め込んで、そのテキストがどのAI（LLM）からのものかを識別可能にする方法。OpenAIは数年前から「テキスト来歴の分野に関する広範な研究」としてこの機能を試作してはいる。

しかし、この機能はいまだ社外には提供していない。OpenAIいわく、テキスト透かし技術は「非常に正確」な場合もあるが「翻訳システムを使ったり、別の生成モデルによって書き換えたり、文中に特定の文字を挿入して、後からその文字を削除するような」改ざんが行われるとうまく機能しないとのことだ。

さらに「技術的には有望だが、悪意のある者によって回避されやすく、また英語を母国語としない人々にとって、有用なライティングツールとしてのAIの利用に悪い印象を与えかねない」とも述べている。

もしChatGPTが世界に唯一のLLMツールなのであれば、テキストに透かしを入れることには意味があるかもしれない。しかし現状では、複数のベンダーが高機能なLLMを提供しており、透かしを入れたところで、悪意ある者は別の（透かしを入れない）AI（LLM）に切り替えてしまうだろう。つまり、OpenAIだけがテキスト透かしを導入したところで現実的な効果はほとんどなく、 導入したことで逆に顧客を奪われることになりかねない。