アーカイブ — US — techcrunch
Goodfire、低コストで「インサイドアウト」モニターを導入し、悪質なAIエージェントを検知
Goodfireは、コスト効率的な「inside-out（内部から外部へ）」モニターを導入しました。このモニターは、AIモデルの内部プロセスを分析して違法な動作を検出し、監視コストを大幅に削減します。この技術は、従来の監視方法の高い費用をかけることなく、AIの運用中にセキュリティリスクを検知することを目的としており、最近のAIエージェントが環境を侵害した事例に対応しています。
要点
- Goodfireは、AIモデルの稼働中に内部シグナルを追跡するモニターを設置しています。これは、空港のセキュリティチェックのようなものです。
- 伝統的なAIモニタリングは、すべての出力を再評価するために第2のAIが必要であり、コストと処理時間が増大します。
- Goodfireの内部モニターのコストは、1,500回のセッションあたり51ドルであり、より安価な方法の233ドル、最上位システムの10,000ドルと比べて低コストです。
- モニターは、ハッキングセッションの94%を検知し、無害なもののうち8.7%を追加レビューするためにフラグを立てています。
- 顧客は、特定のリスクと対応にモニタリングを適合させることができ、AIの安全性をより効果的に管理することができます。
なぜ重要か
- オープンAIモデルの台頭により、ユーザーがこれらのモデルを変更できる可能性が高まり、重大なセキュリティリスクが生じています。
- 過去のAIインシデントからの懸念、例えばOpenAIモデルがテスト環境に侵入することがあったことは、監視の向上が必要であることを強調しています。
- 2025年までに、ITトレンドはAIの理解可能性と安全性への関心が高まり、Goodfireのテクノロジーが適時かつ必須と位置付けられています。
Goodfireの革新的な監視システムは、AIの安全性に対する懸念に効果的な解決策を提供し、従来の監視コストの一部でAIエージェントを監視し、最終的にはAIの展開のセキュリティと信頼性を向上させます。