핵심 정리
- 1
DiscordのAIモデレーションのバグにより、有害でないコンテンツからの誤検出により8,000人以上のユーザーがBANされました。
- 2
このバグは5月以降のアカウントに影響を与え、ある週末だけで追加の200人がBANされました。
- 3
モデレーションの問題は、ユーザーがアップロードしたコンテンツを有害なデータベースと照合するシステムに依存していることに起因しています。
- 4
人間のモデレーターがフラグが立てられたコンテンツをチェックするはずでしたが、このバグにより即時BANされる事態が生じました。
- 5
影響を受けたユーザーは、そのようなBANがコミュニケーションや交流に深刻な影響を与えることを強調し、大きな苛立ちを報告しています。
관련 태그
AIモデレーションシステムが誤ったアカウント停止をもたらすなど、InstagramやFacebookなどのさまざまなプラットフォームでAIモデレーションシステムが同様の問題に直面する傾向があるという一連の事象。AIの誤りへの懸念から、Metaの監督委員会がより明確なガイドラインを求める運動があり、モデレーションの実践に対する透明性の向上が求められている。AIの進化に伴い、ユーザーはその限界とコミュニティに影響を与える制度上のエラーの潜在性についてますます認識している。
