Mac版「ChatGPT」、AIとのチャット内容を暗号化せず平文保存していた

Munenori Taniguchi

@mu_taniguchi 2024/07/05 14:27

Share

• 
• 

mac版ChatGPTアプリに見つかった潜在的な脆弱性から、OpenAIはユーザーがAIと行ったチャットの記録をプレーンテキスト文として保存していたことが判明した。

これは、もしChatGPTのサービスが悪意あるハッカーなどから攻撃を受け、侵入されたとき、ユーザーがどんな会話をしたり、その中に含まれる暗号化されていない状態の個人的なテキストデータを簡単に読み取れるということを意味している。

AIおよび暗号について詳しい研究者Pedro José Pereira Vieito氏は、自分が開発したアプリを使って、ユーザーとChatGPT間の以前の会話を読み出せることをThreadsへの投稿で示して見せた。

アップルはmacOS 10.14 Mojave以降、App Storeで配布するアプリにサンドボックスと呼ばれる仕組みを適用（App Sandbox）し、カレンダー、連絡先、メール、写真、サードパーティ製アプリのサンドボックス内といった、ユーザーの個人的な情報へアクセスするのをブロックしている。もしアプリがこれらの情報を必要とする場合は、ユーザーから明示的なアクセス許可を得なければならないようにしている。

ところがOpenAIは、ユーザーがChatGPTを通じてAIと行った会話の内容を保護されていない場所に平文のまま保管していたことになる。

The VergeやTom’s Hardwareといったニュースサイトが、この件についてOpenAIに問い合わせたところ、すぐに会話記録を暗号化するChatGPTアプリのバージョンアップがリリースされた。そして、OpenAIの広報担当者は「この問題を認識しており、会話を暗号化するアプリケーションの新バージョンをリリースした」と返答し、さらに「当社は、技術が進化する中で高いセキュリティ基準を維持しながら、役立つユーザーエクスペリエンスを提供することに尽力している」とした。

一方でPereira Vieito氏は、この問題をどうやって見つけたのかとの問い合わせに対し、「OpenAIがどうやってmacOSのサンドボックス保護のルールを回避し、ユーザーの会話記録をどこに保管しているかに興味があった」と答えている。

厳密に言えば、OpenAIはmacOS版のChatGPTアプリをApp Storeではなく、自社のウェブサイトから直接配布しているため、Mac App Storeのサンドボックス要件は適用されない。さらに、OpenAIはユーザーが明示的に許否（オプトアウト）しない限り、ChatGPTの会話記録を「安全性およびAIモデルのトレーニング用」と称して使用することが可能だ。

とはいえ、その会話データがPereira Vieito氏のような第三者によって容易に読み取られるような状況は健全とは言えない。簡単にデータを暗号化できるにもかかわらず、指摘されるまで平文で保管していたOpenAIの姿勢には多少の疑問も残る。

なお、アップルはApple Intelligenceの一部にChatGPTへのアクセスを含むことをWWDCで発表している。この取り組みではアップルとOpenAIの間で多少のアプリ間データ転送が必要になるが、当然ながらアップルはこの点のセキュリティ・個人情報の取り扱いをかなり厳しくするはずだ。