InstagramとThreadsの自動モデレーションに不具合か。突然アカウントが削除される事例も

Munenori Taniguchi

@mu_taniguchi 2024/10/10 15:39

Share

• 
• 

MetaのSNS、InstagramおよびThreadsで、モデレーション機能が制御不能になっているという話題が、ユーザーの間で議論されている。

あるユーザーはThreadsで、コンテンツルール上は何の問題もないはずの投稿が、ファクトチェッカーに虚偽情報だと判定され、投稿したユーザーのランクが下がってしまったと報告した。

また別のユーザーは「Good by Meta AI」というデマ情報についての解説を、BBCの記事へのリンクを付けて投稿したところ、やはり虚偽情報だとしてフラグを立てられたと述べた。このユーザーはファクトチェッカーの判断が誤りだとしてサービスに不服を申し立てたにもかかわらず、それも却下されたという。

さらに、大手IT情報サイトThe Vergeの記者であるUmar Shakir氏は、Instagramにおいて、どういうわけか同氏が13歳未満だと判定され、アカウントを凍結されてしまったと述べている。同様に13歳未満だとしてアカウントを凍結されるユーザーは他にも複数おり、やはりモデレーションが不具合を来していることが見て取れる。Shakir氏はアカウントが永久に停止される30日後までに異議申し立てができるとの案内を受け、申し立てを行ったところ、身分証明書のコピーをアップロードするよう求められたという。そして言われたとおりに個人のIDを送ったにもかかわらず、Instagram側はShakir氏が13歳未満だと主張したとのことだ。

データアナリストのJorge Caballero氏は「Threadsがファクトチェックを強化していることは素晴らしいが、ユーザーに対し自動でラベル付けをするのならもっとAIを強化しなければならない」と述べ、自身の投稿への「ファクトチェックが、私が主張していないことを語っている」と付け加えた。そして「AIが仮定したことを裏付ける証拠もないにもかかわらず、メディアに関する投稿の内容が『政治的』と判断されることには、控えめに言っても不安を覚える」とした。

このような報告は多数にのぼり、Instagramの責任者であるAdam Mosseri氏は不具合を報告する何人かのユーザーに直接「調査中だ」と返信している。

記事執筆時点では、Metaからは何が起こっているのかについての案内はなく、自身の投稿がスパム判定されたというユーザーは、「今日/今週の投稿はこれで終わりにすると思う」とし、しばらく投稿を控える意向を示した。

今は問題がなくとも、突然アカウントのランクが下げられたり凍結されるようなことがあるのなら、問題が解決するまでは投稿を控えるのが得策かもしれない。