Goodfire、低コストで「インサイドアウト」モニターを導入し、悪質なAIエージェントを検知

핵심 정리

• 1

  Goodfireは、AIモデルの稼働中に内部シグナルを追跡するモニターを設置しています。これは、空港のセキュリティチェックのようなものです。

• 2

  伝統的なAIモニタリングは、すべての出力を再評価するために第2のAIが必要であり、コストと処理時間が増大します。

• 3

  Goodfireの内部モニターのコストは、1,500回のセッションあたり51ドルであり、より安価な方法の233ドル、最上位システムの10,000ドルと比べて低コストです。

• 4

  モニターは、ハッキングセッションの94%を検知し、無害なもののうち8.7%を追加レビューするためにフラグを立てています。

• 5

  顧客は、特定のリスクと対応にモニタリングを適合させることができ、AIの安全性をより効果的に管理することができます。