アーカイブ — US — techcrunch
Instagramユーザーが大量バンに不満、AIを指摘
Instagramのユーザーが広範囲に渡ってアカウントのBANを経験しており、これはモデレーションのAIの誤用に関連しています。申し立てがしばしば無視されることで不満が高まり、Metaの責任を求めるChange.orgの嘆願書や潜在的な法的措置が求められています。この問題は個人ユーザーだけでなく、プラットフォームに依存する事業にも影響を及ぼし、Metaからの直接的なサポートの不足が重大さを増しています。
要点
- 多くのInstagramユーザーが理由なくアカウントが停止されたと報告しています。
- 多くの人が、モデレーションのAI自動化が誤った停止に関与していると疑っています。
- Metaに対して申し立てを行ったユーザーは、頻繁に返答を受け取っていないと報告しています。
- アカウント停止に反対するChange.orgの請願が4,000以上の署名を集めました。
- Metaに対する集団訴訟の脅威が高まっています。
- 他のプラットフォーム（例：Pinterest）の過去の事例から、これは孤立した問題ではないことが示唆されています。
- アカウント停止は個人だけでなく、企業にも影響を与え、評判に損害を与えています。
なぜ重要か
- この事件は、テクノロジー企業におけるコンテンツモデレーションに対するAIへの依存が増加しているという広範な傾向を示しています。
- このような問題は、Pinterestでも今年初めに指摘されており、モデレーションでの誤検知が制度上の懸念であることを示しています。
- 2025年までには、ITのトレンドによりモデレーションシステムがより高度になる可能性がありますが、企業によるより高い説明責任と透明性が求められるでしょう。
Instagramでのアカウント大量凍結がAIがコンテンツのモデレーション、ユーザーの信頼、Metaのような企業がユーザーの権利とビジネスを守るためにより良いコミュニケーションを行う必要性について重要な問題を提起しています。