アーカイブ — US — techcrunch
Microsoft、開発者向けにAIエージェントの振る舞いを制御する新しい方法を提供
マイクロソフトが、AIエージェントの行動を管理するためのオープンソース標準であるエージェント・コントロール・スペック（ACS）を導入しました。ACSを使用することで、チームはエージェントの行動を定義する方針を設定し、これらの方針を複数のワークフローのインターセプトポイントでチェックすることにより、コンプライアンスとセキュリティを確保することができます。これにより、ガバナンスを効率化し、AIアプリケーションの信頼性を向上させることができます。
要点
- AIエージェントはますます能力を高めており、企業はさまざまな環境での適切な動作を確保する必要があります。
- MicrosoftのACSは、開発者がAIエージェントのポリシーを定義する標準化された方法を提供し、コントロールを向上させます。
- ポリシーでは、許容可能な行動、必要な人間の承認、およびロギング要件を指定することができます。
- AIを制御する現在の方法は断片化されており、管理が難しいことがあります。
- ACSを使用することで、エージェントのタスク中に複数箇所でポリシーに準拠しているかどうかを確認できます。
- 開発者は、ポリシーファイルをエージェントにバンドルして、異なるシステムやフレームワーク間での実装を容易にすることができます。
なぜ重要か
- ACS（Automatic Compliance System）の開発は、企業がますますAIツールに依存する中、AIガバナンスとコンプライアンスの成長トレンドと一致しています。
- 2025年までに、AIの倫理と安全に関する基準とフレームワークの確立が、テクノロジー開発の主要な焦点となることが期待されています。
- AIにおける過去の失敗は、しばしば規制されていない行動に起因しており、ACSのような強固な統制メカニズムの必要性を強調しています。
MicrosoftのACSは、AIエージェントの振る舞いの改善に向けた重要な進展を示しており、コンプライアンスとセキュリティの重要性に対処すると共に、将来的により安全で信頼性の高いAIアプリケーションの道を拓いています。