ChatGPTにAIで書かれた文章の判定能力はありません
米大学講師が「論文にAIが使われてるか？」をChatGPTに判定させて問題に
Share
いまや日常的にChatGPTをはじめAI技術を使う時代となっているが、それだけに学校の宿題などをチャットボットに丸ごと書かせる生徒も少なからずいることが問題視され始めている。GPT-4がリリースされた直後、学生のレポートの精度が劇的に向上し、そのため面談することになったと語る教員もいる。
米テキサスA&M大学で農業科学の講師が、卒業論文にChatGPTを使ったとしてクラス全員の卒業を保留したと宣言したことも、当初よくある話の1つと思われていた。だが、その判定に使った手段がChatGPT自らに「この論文はAIが書いたのか？」と尋ねることだったため、雲行きが怪しくなってきている。
ことの始まりは、卒論を保留にされた学生の婚約者が大手掲示板Redditに投稿したことだ。講師から送られた通告のスクリーンショットによると、クラス全員がAIソフトにより論文を作成しているから、採点しないと決めたとのこと。
問題は、この講師がChatGPT自らに学生らの論文を判定させたことだ。まず採点する前にChatGPTのアカウントを開設し、「君たちの回答をコピー＆ペーストすれば、ChatGPTはプログラム（AI）がコンテンツを生成したかどうかを私に教えてくれる。私は皆の最後の3つの課題を2回に分けて判定させ、それらが両方ともChatGPTによるものと主張された場合、0点と判定した」とのことだ。
もちろんChatGPTは、AIを用いて作成したコンテンツを検出するためのツールではない。そうした診断ツールは存在しているが、AIチャットボットとは別に設計する必要がある。ChatGPT開発元のOpenAI自らが、AIにより生成された文章か人間が書いたかを判定するツール「Classifier」（分類器）を公開しているが、それでも人間が書いた文章の9%をAI生成だと誤判定したことも明かされている。
ましてChatGPTには、そうした機能が組み込まれていない。報道メディアの1つPCMagは、今回の件が事実だと大学に確認した一方で、人間が書いた自らの記事をChatGPTによると誤判定されたと述べている。
だが、この講師はAIを使わずに論文を再提出するよう全学生に指示し、再びChatGPTに判定させると宣言。少しでも疑いがあれば成績を与えないだけでなく、学業不正として事務所に相談するとまで警告した。卒業を保留されたばかりか、将来まで危うくされかねない生徒らが抗議するのも当然だろう。
さっそく大学側は学生の救済に乗り出したが、調査の結果、少なくとも1人の学生が学期中にChatGPTを使ったことを自白したという。その一方でRedditのスレッドには、この講師が汚い言葉や専門外のコミュニケーションのために、今後「彼の仕事は存在するかどうか分からない」ながらも、それはAIの不適切な使用によるものではないとの噂も投稿されている。
その後、大学側からは「不合格や卒業を禁止された学生はいない」との声明が出されている。現在は数名の学生が免責されて成績が出されており、他の数名の学生は新たに用意された文章課題をこなすことを選んだとのことだ。
さらに、学生によるAI技術の「使用または誤用」に対処するポリシーの策定にも取り組んでいるという。「学業におけるAIの使用は、すべての学習機関が直面する急速に変化する問題だ」とも付け加えており、今回の講師の対応は問題ありとしても、AI開発企業にも判定ツールでの精度の向上が求められそうだ。
