[AI 막는 AI] MS, '프로젝트 퍼셉션' 외부 넘어 내부 AI 에이전트까지 보호

무슨 일이 있었나

AI가 점점 강해지면서, 이제는 바깥에서 오는 AI 공격만 막아서는 부족합니다. 회사 안에서 데이터와 시스템을 쓰며 일하는 AI 에이전트도 계속 살펴보고 지켜야 한다는 이야기입니다. 마이크로소프트는 지난 7월 공개한 프로젝트 퍼셉션으로 이 문제에 답하고 있습니다. 이 시스템은 위험을 찾고, 상황을 따져 보고, 필요한 보호 조치를 바로 실행합니다.

핵심 구조와 숫자

• 프로젝트 퍼셉션은 레드팀, 블루팀, 그린팀이라는 세 가지 특화 에이전트로 구성됩니다.
• 레드팀 에이전트는 공격자가 쓰기 전에 공격당할 수 있는 길을 찾아냅니다.
• 블루팀 에이전트는 보안 상황을 분석해 실제로 위험한지 가려냅니다.
• 그린팀 에이전트는 고쳐야 할 부분을 직접 처리해 방어를 튼튼하게 만듭니다.
• AI 에이전트를 감시할 때는 ID, 권한, 데이터, 클라우드, 네트워크 등 여러 층을 함께 살핍니다.

왜 이런 변화가 생겼나

예전 AI 보안은 주로 나쁜 사람이 AI를 무기로 쓰는 외부 위험에 맞춰져 있었습니다. 하지만 지금은 AI 에이전트가 회사 시스템에 접근해 실제 업무를 하고 결정에도 関与합니다. 마이크로소프트는 이런 에이전트를 '에이전틱 내부자'라고 부릅니다. 회사가 직접 만든 에이전트라도 무엇을 하는지 계속 지켜봐야 한다는 뜻입니다.

왜 중요한가

AI 에이전트는 사람보다 훨씬 빠르게 움직일 수 있습니다. 그래서 사람이 하나하나 확인하기 어렵습니다. 이 기사는 AI가 빠르게 움직이더라도 최종 결정권은 사람이 가져야 한다고 강조합니다. 또 보안 담당자가 경고를 많이 처리하는 대신, 어떤 위험이 중요한지 골라서 대응하도록 돕는다는 점이 핵심입니다.

앞으로 지켜볼 점

• 프로젝트 퍼셉션이 실제 기업 환경에서 얼마나 잘 작동하는지
• AI 에이전트의 행동을 실시간으로 감독하는 가디언 에이전트의 역할
• 사람이 최종 통제권을 유지하면서도 대응 속도를 높일 수 있는지