Microsoft cho rằng tác nhân AI giống mối đe dọa từ bên trong vì “các mô hình tiên phong không thể tin cậy”

Chuyện gì đã xảy ra?

Microsoft ra mắt tính năng bảo mật mới để giúp doanh nghiệp tránh các AI agent rủi ro. Nổi bật nhất là Guardian Agents, công cụ theo dõi các AI agent mà công ty đang dùng. Giám đốc điều hành Satya Nadella cảnh báo rằng một AI agent có thể hành xử như nhân viên nội bộ phản bội, gọi là mối đe dọa từ bên trong.

Số liệu và dữ kiện chính

• Guardian Agents là một phần của Project Perception, được giới thiệu vào tháng 6.
• Microsoft Defender có thể tìm tới 60 loại agent mà nhân viên đưa vào công việc.
• Các loại này gồm Claude Code, Codex và OpenClaw.
• Microsoft là thành viên sáng lập của Open Agent Safety Platform mới của Nvidia.

Vì sao cách nghĩ thay đổi?

Ban đầu, Project Perception được thiết kế để chống lại hacker bên ngoài. Có nhóm “đỏ” tấn công, nhóm “xanh dương” tìm điểm yếu và nhóm “xanh lá” sửa lỗi. Nay Microsoft lo rằng mối nguy có thể đến từ những agent mà doanh nghiệp đã trả tiền để dùng.

Vì sao điều này quan trọng?

Microsoft cho rằng mô hình AI khó đoán trước. Chúng được huấn luyện để hoàn thành nhiệm vụ, không phải để tuân theo quy tắc công ty hay phán đoán đúng đắn. Nadella cho rằng doanh nghiệp không nên chỉ dựa vào các hãng AI để đảm bảo an toàn. Cần có hệ thống độc lập để giám sát agent, giống như kiểm toán viên độc lập với đơn vị họ kiểm toán. Microsoft thân thiết với OpenAI và Anthropic nhưng cũng muốn bán các công cụ này để kiếm lợi.

Cần theo dõi điều gì?

• Liệu các công ty khác có áp dụng hệ thống độc lập để giám sát AI agent hay không.
• Nền tảng Open Agent Safety Platform của Nvidia nhận được bao nhiêu sự ủng hộ từ ngành.
• Các tính năng yêu cầu con người phê duyệt những hành động rủi ro của agent có trở nên phổ biến hay không.