Facebook、AI時代のコンテンツモデレーション構築に着手

핵심 정리

• 1

  ブレット・レヴェンソンは2019年にAppleからFacebookに移籍し、コンテンツのモデレーション問題に取り組んでいます。

• 2

  人間のレビュアーは長い方針文書に苦労し、決定の正確さはわずか50%以上にしかなりませんでした。

• 3

  AIチャットボットの台頭がモデレーションの失敗を悪化させ、有害なコンテンツのティーンへの促進などの事件が発生しました。

• 4

  レヴェンソンは「政策をコード化する」と提案し、政策をリアルタイムで施行するためのオペレーションロジックに変換します。

• 5

  彼の会社、MoonbounceはAIを使用してコンテンツを評価することでコンテンツの安全性を向上させるために1,200万ドルを調達しました。

• 6

  Moonbounceは出会い系アプリやAIキャラクター企業などの業界にサービスを提供し、1日あたり4,000万以上のレビューを処理しています。

• 7

  同社は、安全性を後からの措置ではなく、競争上の優位性として統合することを目指しています。