Facebook、AI時代のコンテンツモデレーション構築に着手

ブレット・レヴェンソン氏は元Appleの幹部であり、Moonbounceを率いてAIにおけるコンテンツモデレーションを向上させるために「ポリシーをコードとして」活用しています。従来の人間によるモデレーションの不備に取り組み、リアルタイムのAI評価と対応を提供することで、ユーザーコンテンツを生成するプラットフォームの精度と安全性を向上させています。Moonbounceは1,200万ドルの資金を確保し、AI企業が安全性を効果的に組み込むのに役立ちます。

Key Points

• ブレット・レヴェンソンは2019年にAppleからFacebookに移籍し、コンテンツのモデレーション問題に取り組んでいます。
• 人間のレビュアーは長い方針文書に苦労し、決定の正確さはわずか50%以上にしかなりませんでした。
• AIチャットボットの台頭がモデレーションの失敗を悪化させ、有害なコンテンツのティーンへの促進などの事件が発生しました。
• レヴェンソンは「政策をコード化する」と提案し、政策をリアルタイムで施行するためのオペレーションロジックに変換します。
• 彼の会社、MoonbounceはAIを使用してコンテンツを評価することでコンテンツの安全性を向上させるために1,200万ドルを調達しました。
• Moonbounceは出会い系アプリやAIキャラクター企業などの業界にサービスを提供し、1日あたり4,000万以上のレビューを処理しています。
• 同社は、安全性を後からの措置ではなく、競争上の優位性として統合することを目指しています。

Relevance

• カムブリッジ・アナリティカ事件後、コンテンツのモデレーションは歴史的に継続的な課題でした。
• AIのアプリケーションの利用が増えるにつれて、AI企業はユーザーの安全を確保するためのプレッシャーを受けています。
• 2025年までに、トレンドからは、AIアプリケーションでのリアルタイムのガードレールが必要とされる傾向があり、それはMoonbounceのミッションと一致しています。

Moonbounceは、AIを活用して喫緊のコンテンツモデレーションの課題に取り組み、オンライン環境をより安全なものにすることを目指しています。これにより、企業が安全性を重要な要素として優先し始めている中で、この分野において重要な進化を遂げています。