UpScrolledのソーシャルネットワーク、急成長の影響でヘイトスピーチのモデレーションに苦戦中

UpScrolled、急速に成長しているソーシャルネットワークが、250万人以上のユーザーを獲得した後、ヘイトスピーチや有害コンテンツの適切な管理に大きな課題を抱えています。報告によると、人種差別的な言葉や過激なフレーズが含まれるユーザー名やハッシュタグが未チェックのまま残っています。同社は積極的にモデレーション機能を向上させる取り組みを行っていますが、依然として不快なコンテンツを持ったアカウントが存在し、ユーザーの安全性やプラットフォームの方針に関する懸念が高まっています。

Key Points

• UpScrolledは、2026年1月に250万人を超えるユーザー数を突破し、急成長を遂げました。この成長は、TikTokの所有権の変更に続いて起きました。
• ユーザーは、人種差別的な用語や憎悪表現が含まれるユーザーネームが広がっていると報告し、TechCrunchもこれらの問題を確認しました。
• ユーザーの報告にもかかわらず、攻撃的なアカウントは数日後もオンラインのままであり、モデレーションの課題を示しています。
• ADLは、UpScrolledが反ユダヤ主義的なコンテンツをホストし、外国のテロ組織との関係を指摘しました。
• 創設者であるIssam Hijaziは、モデレーションの問題を認め、モデレーションチームの拡大や技術のアップグレードを計画していることを述べました。

Relevance

• UpScrolledとBlueskyなど、他のプラットフォームに直面する問題が似ています。ユーザー数の急増によりヘイトスピーチの規制が難しくなったため
• ソーシャルメディアプラットフォームは、言論の自由とユーザーの安全性に関する議論の中で有害コンテンツの管理能力に対する監視がますます厳しくなっています。
• ソーシャルネットワーキングサービスの台頭は、コミュニティが多様化する中で、ユーザーの表現と責任あるコンテンツのモデレーションをバランスよく保つことが重要とされています。

UpScrolledが直面しているモデレーションの課題は、急速に拡大するソーシャルネットワークに共通するジレンマを示しています。企業は、言論の自由と利用者の安全をバランスよく保つため、ヘイトスピーチや有害コンテンツの台頭を防ぐために、決断力を持ってモデレーションプロセスを強化する必要があります。