個人に最適化されたエージェントは個人データの広い読み取りが必須

MetaのAI「Muse」が他人の銀行残高を表示する?Signalの暗号化メッセージ読み取りも判明

多根清史

Image:Erlin Diah / Shutterstock.com

MetaのAIエージェント「Muse」に、ユーザーの想定していないプライベートなメッセージを読み取ったり、別のユーザーの会話を混同したかのような応答をしたり、個人情報を漏えいしたりする可能性があるとの疑いが浮上している。

米Reutersの調査によると、Meta社内でも同様の問題が報告されている模様で、たとえばMuseがユーザーの尋ねていない内容を突然報告する事例が、Metaの社内チャットに投稿されていたという。

他にも、釣りの情報をやり取りしていた社員には、自分と無関係な2つの銀行口座の残高が表示されたり、別の社員には、自分とは関係のないテーブルの受け取りについて連絡があったりしたとのことだ。これに対し、同社内ではアカウント間で会話の文脈が混ざっているのではないかとの懸念が持ち上がっている。

また、社員の家族からエンドツーエンドで暗号化されているはずのメッセージサービスSignal届いているメッセージに返信するようMuseが促したとされる事例もある。その社員は、Museに他のアプリへのアクセスを許可したことはなく、許可を求められた覚えもないとして、「重大なプライバシー侵害に思える」と社内チャットに投稿していた。

金銭的な被害の報告もある。ある社員は、犬の保険を月額200ドルから888ドルの上位プランに変更されたという。さらに、許可なく返金不可のAirbnb予約を行ったという社内報告も紹介されている。

Metaの広報担当者であるダニエル・ロバーツ氏はReutersに対し、これらは「個別の事象」だと説明した。他のアプリには利用者が明示的に付与した権限を通じてのみアクセスするとし、アカウント間の情報混同に見えるメッセージの多くは、いわゆ幻覚(ハルシネーション:AIによるもっともらしい誤情報の生成)であり、すでに対処したと述べている。ただしReutersは、他人の銀行口座残高などを実際に表示したのか、それとも架空の情報を生成したのかは確認できなかったとしている。

さらに、テクノロジーニュースサイトのArs Technicaに対しては「従業員によるテストは製品開発プロセスの中核をなすものであり、その目的はフィードバックを得て、安全性やプライバシー保護の対策を講じ、製品を改善することにある。重要なのは、従業員は一般ユーザーとは異なるバージョンのMuseにアクセスできるため、他では利用できない機能や動作について検証していることがよくあるということだ」と回答。社内での問題報告をテストの一環と位置づけ、一般公開版とは仕様が異なると強調した。

一方、ReutersはSignalのスタッフや、AIの社会的影響を研究する米非営利機関AI Now Instituteのスタッフらと協力して検証を実施。その結果、MuseがAndroidとmacOSでSignalのメッセージを読み取れることを再現したという。
具体的には、Androidでは端末のプッシュ通知へのアクセス権限を利用し、通知に表示されたメッセージ内容を取得。macOSではアクセシビリティ機能とスクリーンショット関連の機能を利用していた。いずれもMeta独自のアプリ連携機能「Connector」を経由しないアクセス方法だった。なお、iPhoneでは同様の読み取り要求はブロックされたという。

今回の検証結果についてReutersは、Meta社員が報告した問題が現在も続いており、他のユーザーにも影響を及ぼしている可能性が示されたと報じた。一方、Appleによれば、2026年11月中旬に実施したmacOSのアップデートによって、Reutersが確認したアクセス経路は事実上閉ざされたという。

Signalの社長であるメレディス・ウィテカー氏はReutersに対し、Metaが「基本的なプライバシーやサイバーセキュリティに対する敬意をまったく示さずに」Museを公開したと批判。さらに、Signalのようなアプリ開発者が「自社のアプリケーションをAIエージェントによるアクセス禁止対象として指定する」ための「一貫した技術的手段」を設け、MetaなどのAI企業がその境界を尊重し、OS提供企業がルールを徹底するよう求めた。

Museはユーザーに代わって予約や買い物を行い、スケジュール管理なども支援するほか、先回りして行動を提案することを売りにしている。9月の公開以来、ダウンロード数は1000万件を超え、アカウントを設定したユーザーの約4分の1が毎日利用しているという。

しかし、こうした個人に最適化された利便性の裏側には、スマートフォンやPC上の情報に広くアクセスする仕組みがある。Museやその他のAIエージェントに端末内の情報を読み取る権限を与えることには、十分な注意が必要だ。特に、決済情報や暗号資産ウォレットなど、重要な情報を扱う端末で利用する場合は、付与する権限を慎重に確認したい。

関連キーワード: