アーカイブ — US — techcrunch
Tumblrのコンテンツフィルタリングシステムが不適切に投稿を「成熟」と表示、ユーザーがAIを非難
Tumblrユーザーは、プラットフォームのコンテンツフィルタリングシステムが多くの成熟していない投稿を誤って「成熟」としてフラグ付けし、視認性を低下させていることにイライラしています。この問題は、最近のAndroidアプリのアップデートに関連しており、他のSNSプラットフォームで直面してきた同様のAIのミスにつながっている疑いが持たれています。Tumblrは問題を認識し、改善と更新された申し立てプロセスに取り組んでいます。
要点
- 多くのTumblrユーザーが、彼らの投稿が誤って「成人向け」ラベルが付けられており、それが可視性に影響を与えていると報告しています。
- 誤ったフラッグ付けは、GIF、ファンダムアイテム、アートなどさまざまなコンテンツに影響を与えています。
- AIに基づくモデレーションが複数のソーシャルメディアプラットフォーム全体で問題を起こしていると疑われています。
- Tumblrは、内容フィルタリングを改善することを目的としたAndroidアプリのアップデートが問題の原因であると述べています。
- 同社は、ユーザーフィードバックに基づいてフィルタリングシステムを強化する計画を立て、より多くのケースを処理するために申し立て手続きを更新する予定です。
- AutomatticによるTumblrの買収以降のスタッフ削減は、モデレーション能力にも影響を与えている可能性があります。
なぜ重要か
- SNSでの自動モデレーションの失敗が増加傾向にあり、AIの信頼性についての議論が活発化している。
- Pinterestは最近、内部エラーによるユーザーのアカウント停止を認め、Tumblrの状況と類似点が指摘されている。
- SNSプラットフォームは、AIの使用やユーザーの不満に関連した内容モデレーションの実践についてますます詳細な調査を受けている。
Tumblrの虚偽通報問題は、ソーシャルメディア全般における自動モデレーションの課題を浮き彫りにし、AIの監督やユーザーサポートの充実の必要性を示しています。同社は人員削減の中でシステムを改善しようと取り組んでいます。