KR — 전자신문
[AIを防ぐAI] MS、「プロジェクト・パーセプション」を外部だけでなく社内のAIエージェントの保護にも拡大
セキュリティ2分で読めます
Microsoft は、社外からの AI 攻撃だけでなく、会社の中で働く AI エージェントも見守って守る新しい AI セキュリティ・システム「Project Perception」を紹介しました。
何が起きたのか
Microsoft は 7 月に「Project Perception」を発表しました。これは「エージェント型セキュリティ」と呼ばれる仕組みです。危険の兆しを集め、その意味を判断し、会社の デジタル・システム全体で守るための対策をとります。Microsoft は今、この守りを会社の中で動く AI エージェントにも広げる必要があると説明しています。
主な仕組みと数字
- 3 つの専門エージェントがあります。攻撃者の視点で弱点を探す「Red Team」、実際のリスクを見つける「Blue Team」、防御を強める修正を行う「Green Team」です。
- 「Guardian」エージェントは、リスクが高まったときに他のエージェントの動きを監視し、すぐに対応します。
- 攻撃者が使う前に、侵入されそうな道筋を見つけます。
- 対策の記録（ログ）が残るので、何が問題の原因だったかを確認し、方針や道具を直せます。
なぜ新しい考え方が必要なのか
これまでの AI セキュリティは、主に攻撃者が AI を使って仕掛けてくる外からの脅威に備えるものでした。しかし今は、AI エージェントが会社のデータや道具、システムに入り込み、実際の仕事や判断を助けるようになっています。Microsoft はこうした会社の中の AI を「エージェント型インサイダー」と呼びます。会社が自分で作ったエージェントでも、何をしているか、どれくらい危ないかを常に確かめる必要があります。
なぜ大事なのか
AI エージェントは非常に速く動くため、守る側も同じくらい速い道具が必要です。ただし Microsoft は、重要な判断は最後まで人間が決めるべきだと述べています。この仕組みは、警告の数を増やすのではなく、特に深刻なリスクに担当者が集中できるよう助けることを目指しています。
今後注目したい点
- 実際の会社で Project Perception がどれくらううまく働くか。
- Microsoft の多層防御が、本人確認、データ、クラウド、端末、ネットワーク、実行中の動作をしっかり守れるか。
- 会社が、素早い自動対応と人間による管理をどうバランスさせるか。
用語解説
- Project Perception
- Microsoft が紹介した、AI の脅威と会社内の AI エージェントを守るセキュリティ・システムの名前。
- AI エージェント
- 人の代わりに自分で考えて、データやシステムを使って仕事をする AI のプログラム。
- Red Team
- 攻撃者の立場になって、システムの弱点や侵入の道筋を探す役目。
- Blue Team
- 実際に起きうるリスクを調べて見極める防御側の役目。
- Green Team
- 見つかった弱点を直し、防御を強くする役目。