[AI chặn AI] Microsoft mở rộng Project Perception để bảo vệ các tác nhân AI nội bộ, không chỉ mối đe dọa bên ngoài

Chuyện gì đã xảy ra

Microsoft giới thiệu Project Perception vào tháng 7 như một hệ thống bảo mật 'agentic'. Hệ thống này gom nhiều thứ lại: tín hiệu, bối cảnh bảo mật, mô hình AI và các tác nhân AI đặc biệt, thành một lớp phòng thủ biết học hỏi. Mục tiêu là phát hiện rủi ro, hiểu ý nghĩa của chúng và thực hiện các bước bảo vệ trên toàn bộ hệ thống số của công ty. Microsoft nói rằng việc bảo vệ này cũng phải bao gồm các tác nhân AI đang làm việc bên trong công ty.

Các con số và sự kiện chính

• Project Perception có ba tác nhân đặc biệt: Red Team, Blue Team và Green Team.
• Red Team tìm các đường xâm nhập có thể có trước khi kẻ tấn công dùng đến chúng.
• Blue Team xem xét bối cảnh bảo mật để tìm rủi ro thật sự.
• Green Team sửa lỗi để tăng cường phòng thủ trên toàn bộ môi trường.
• Guardian là tác nhân theo dõi hành động của các tác nhân khác khi rủi ro tăng, và phản ứng ngay lập tức.

Vì sao cần thay đổi cách bảo mật

Trước đây, bảo mật AI chủ yếu tập trung vào mối đe dọa từ bên ngoài, khi kẻ tấn công dùng AI để phát động cuộc tấn công. Giờ đây, các tác nhân AI có thể vào dữ liệu, công cụ và hệ thống của công ty để làm việc thật và giúp ra quyết định. Microsoft gọi các tác nhân do công ty tự vận hành là 'agentic insiders', tức là 'tác nhân nội bộ'. Ngay cả những tác nhân do chính công ty xây dựng cũng cần được kiểm tra liên tục về việc chúng làm gì và mức độ rủi ro.

Vì sao điều này quan trọng

Tác nhân AI có thể hành động rất nhanh, nên đội bảo mật cần công cụ chạy cùng tốc độ đó. Microsoft nói con người phải giữ quyền quyết định cuối cùng với những việc quan trọng. Cách làm này giúp nhân viên bảo mật tập trung vào rủi ro nghiêm trọng nhất, thay vì chỉ xử lý thêm nhiều cảnh báo. Hệ thống cũng tạo nhật ký cho biết nguyên nhân gây ra sự cố, để đội ngũ có thể điều chỉnh chính sách và công cụ.

Cần theo dõi điều gì

• Project Perception hoạt động tốt đến đâu khi các công ty dùng thật.
• Lớp bảo vệ nhiều tầng của Microsoft có bảo vệ tốt danh tính, dữ liệu, đám mây, thiết bị, mạng và thời gian chạy hay không.
• Các công ty cân bằng giữa phản ứng tự động nhanh và quyền kiểm soát của con người như thế nào.