ISO/IEC 27090 nhằm giúp các hệ thống AI an toàn

Chuyện gì đã xảy ra

Các tổ chức tiêu chuẩn ISO và IEC đã công bố ISO/IEC 27090, có tên "Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems". Tài liệu mô tả các mối đe dọa bảo mật chỉ xuất hiện ở hệ thống AI. Nó giải thích những hậu quả có thể xảy ra và đưa ra cách phát hiện, ngăn chặn. Không có chứng chỉ nào. Đây là hướng dẫn và không có yêu cầu bắt buộc phải làm theo.

Số liệu và sự kiện chính

• Phiên bản đầu tiên dài 56 trang.
• Tài liệu do tiểu ban JTC 1/SC 27 thực hiện, cũng là nhóm phụ trách dòng ISO/IEC 27000.
• Dự án được chấp thuận vào tháng 9 năm 2022. Bản dự thảo ủy ban ra vào tháng 1 năm 2024. Cuộc bỏ phiếu DIS kết thúc vào tháng 7 năm 2025.
• Tiêu chuẩn chỉ có tiếng Anh. Giá 204 franc Thụy Sĩ, dưới dạng PDF hoặc bản in.

Các loại tấn công được đề cập

Hướng dẫn bao gồm nhiều kiểu tấn công. Data poisoning là đưa dữ liệu xấu vào quá trình huấn luyện. Thao túng trọng số mô hình là thay đổi các thiết lập bên trong của mô hình. Tấn công evasion dùng đầu vào được làm giả để đánh lừa mô hình. Model extraction sao chép mô hình qua giao diện. Membership inference và model inversion cố gắng tìm thông tin về dữ liệu huấn luyện. Prompt injection và các tấn công qua kết quả đầu ra của mô hình cũng được nêu ra. Một phụ lục gắn các tấn công với các giai đoạn của vòng đời AI và các tài sản bị ảnh hưởng. Phụ lục khác mô tả phiên bản AI của các tấn công truyền thống. Hệ thống AI tác tử dùng công cụ chỉ được đề cập sơ lược.

Vì sao điều này quan trọng

Tiêu chuẩn này lấp một khoảng trống. ISO/IEC 27001 và 27002 bao quát bảo mật CNTT thông thường, còn ISO/IEC 42001 yêu cầu biện pháp bảo mật cho AI nhưng không nêu tên các loại tấn công. ISO/IEC 27090 chỉ ra đâu là những biện pháp cũ vẫn hiệu quả và đâu là mô hình, dữ liệu huấn luyện và chuỗi ML cần thêm bảo vệ. Với doanh nghiệp châu Âu, việc công bố này không thay đổi pháp luật. Nó cũng không tạo ra giả định phù hợp theo Đạo luật AI hay Đạo luật Khả năng phục hồi An ninh mạng. CEN/CENELEC JTC 21 vẫn đang làm tiêu chuẩn hài hòa prEN 18282, hiện vẫn ở dạng bản nháp.

Cần theo dõi

• ISO/IEC 27091 về quyền riêng tư trong hệ thống AI đang ở giai đoạn Final Draft.
• Tiêu chuẩn hài hòa prEN 18282 của CEN/CENELEC JTC 21 vẫn là bản nháp.
• ETSI đã công bố TS 104 223. Chưa có bảng ánh xạ giữa ISO/IEC 27090, prEN 18282 và TS 104 223.