従業員の行動をデータ化し、AIエージェントの養分に

Metaが“社員のPC操作監視”を停止、会話や個人成績が全社員に公開されていたことが発覚

Munenori Taniguchi

Image:PJ McDonnell/Shutterstock.com

Metaは、物議を醸している従業員のキーボード入力やマウス操作を追跡するAIトレーニングプログラムの使用を一時停止した。

その理由は、従業員の不満を汲んだわけでも、プライバシー保護に関する法律に違反しているからでもない。機密情報が社内に漏洩していることが発覚したからだ。

このAIトレーニングプログラムでは、Metaは米国在住の従業員のコンピュータ利用状況を逐一記録し、データとして収集される。ところが、本来なら秘匿されるべき従業員の会話内容や、その文字起こしデータ、個人の業績に関するデータなどが、全従業員に公開された状態になっていた。

この問題を受け、Metaはそれらのデータを使用する社内のAIトレーニングプログラムを一時停止すると6月22日に発表した。

この問題は今年4月、Meta Superintelligence Labsチームが開発した「Model Capability Initiative (MCI)」と呼ばれるAIトレーニングプログラムが、Meta従業員のワークステーションに導入されたことに始まる。

従業員宛てに送信されたメモによると、Metaはこのツールの導入目的として「コンピュータを使って人々が日常的なタスクを完了できるよう支援するAIエージェントを構築するにあたり、当社のモデルには、従業員が実際にどのようにコンピュータを使用しているのかという実例が必要だ」と主張した。そしてほとんどの従業員に対し、このプログラムへの参加が義務付けられた。

Metaは「従業員のデータは他のいかなる目的にも使用されない」とし、また「機密コンテンツを保護するために安全対策が講じられている」とも主張していた。にもかかわらず、今回情報漏洩が発生した。

ある従業員は、社内グループで漏洩した情報のスクリーンショットを見て、「悪意のあるアクセスがあったという証拠は見当たらないが、当初の約束通りデータが保護されていなかったという事実は、非常に腹立たしい」と述べている。

Metaでは今年3月にも、社内AIエージェントが自ら不正な操作を行い、従業員に関する機密情報を漏らす事案が発生している。

このケースでは、ある従業員が社内フォーラムで出た質問を分析するために社内AIエージェントを使用したところ、従業員から指示されていないにもかからず、AIエージェントが勝手に質問者にアドバイスを含む回答をしてしまったという。さらに、返信を受け取った質問者が、そこに書かれていた指示に従ったことでドミノ倒しのように情報が伝わり、本来アクセス権限のない社内データを知ってしまう従業員が出た。

今回の機密情報の漏洩を受けて、Metaの広報担当者は「当社はプライバシー保護対策を講じてこのプログラムを慎重に設計しました。現時点でMetaの従業員による、データへの不正アクセスがあったという兆候はありませんが、調査中はプログラムを一時停止しています」とメディアに対して述べている。数か月後に同じような機密情報漏洩が起こらないことを祈るばかりだ。

関連キーワード: