EXPLORINEER
ja

アーカイブ — US — techcrunch

AIによる意思決定モデルがコンテンツモデレーションを変革する可能性

ムスビは、リアルタイムのコンテンツモデレーション向けに、軽量なAI意思決定モデルであるPolicyLM-1.7Bを開発しました。このシステムは平易な英語のコンテンツポリシーを使用し、速やかに2択の判断を行い、ポリシーの変更に応じて再トレーニングを必要とせずに適応します。拡張可能なコンテンツモデレーションの需要が高まる中、この革新は、従来のAI分類器と比較してコスト効率を維持しながらラベリングを効率化することを目指しています。

要点

  • Musubiは、コンテンツを素早く（50ms未満で）モデレートするためのPolicyLM-1.7Bを導入しました。
  • このモデルは、プレーンな英語で書かれたコンテンツポリシーを適用して即時のモデレートを提供します。
  • モダンなLLMアプローチを使用することで柔軟性が生まれ、複雑なポリシーの適用が可能です。
  • ポリシーの変更に再トレーニングは必要なく、人間のマネージャーによる継続的な更新が可能です。
  • TypeSafe AIのJevがリリースされて以来、意思決定モデルが注目を集め、競争が促されています。
  • このモデルはバイナリ判断を出力し、大規模言語モデルと比較してスピードとコスト効率を向上させています。

なぜ重要か

  • ユーザーが生成するコンテンツが急速に増える中、コンテンツのモデレーションはますます重要になっています。
  • AI決定モデルの台頭は、産業全体で複雑なプロセスを自動化する広範なトレンドを反映しています。
  • 同様の技術がAIの振る舞いの改善に向けて探究されており、その柔軟な使用法が強調されています。

ムスビのポリシーLM-1.7Bは、AIによるコンテンツモデレーションの重要な進歩を示しており、爆発的なコンテンツの増加が求められる効率性に対処し、オンラインの相互作用を管理するための積極的なアプローチを促進しています。