マイクロソフト、「フロンティアモデルは信頼できない」としてAIエージェントを内部脅威になぞらえる

何が起きたのか

マイクロソフトは、危険なAIエージェントから企業を守る新しい機能を発表しました。最も注目されるのは、会社が使うAIエージェントを監視する「ガーディアンエージェント」です。ナデラCEOは、AIエージェントが内部の社員のように会社に害を与えるおそれがあると警告しています。

主な事実

• ガーディアンエージェントは、6月に発表された「プロジェクト・パーセプション」の一部です。
• Microsoft Defenderは、社員が職場に持ち込むエージェントを最大60種類見つけられます。
• 対象には Claude Code、Codex、OpenClaw などが含まれます。
• マイクロソフトは、エヌビディアの新しい「Open Agent Safety Platform」の発足メンバーです。

考え方が変わった背景

もともとプロジェクト・パーセプションは、外部のハッカーから守るために作られました。攻撃する「レッドチーム」、弱点を見つける「ブルーチーム」、直す「グリーンチーム」があります。今は、会社がすでに契約して使っているエージェントが危険になるかもしれないと考えられています。

なぜ重要なのか

マイクロソフトは、AIモデルは予測しにくいと言っています。モデルは会社のルールや良い判断に従うよりも、仕事を達成するように訓練されています。ナデラCEOは、安全をAI企業だけに任せるべきではないと主張します。会計監査人が監査先から独立しているように、エージェントを見張る仕組みも別に必要だということです。マイクロソフトはOpenAIやAnthropicと親しい一方で、こうした製品を売って利益も得ようとしています。

今後の注目点

• 他の企業が、AIエージェントを見張る別のシステムを導入するかどうか。
• エヌビディアのOpen Agent Safety Platformが業界からどれだけ支持を集めるか。
• 危険なエージェントの行動に人が承認を求める機能が広がるかどうか。