OpenAI ra mắt 'GPT-6 Cyber', mô hình AI chuyên về an ninh mạng

Chuyện gì đã xảy ra?

Ngày 6, OpenAI phát hành GPT-6 Cyber, một phiên bản AI dành riêng cho an ninh mạng. Mô hình này giúp kiểm tra phần mềm xem có chỗ yếu nào không, rồi giúp viết các bản vá lỗi gọi là bản vá bảo mật. Lúc này, chỉ một số khách hàng được duyệt trong chương trình 'Daybreak Red' mới dùng được, qua API (cách để các chương trình nói chuyện với AI) và Codex. OpenAI dự định mở cho tất cả khách hàng Daybreak Red sau này. AI tìm lỗi bảo mật trong mã nguồn, kiểm tra xem kẻ tấn công có thể lợi dụng lỗi đó không, và viết bản vá cùng ghi chú phân tích. Mô hình cũng được huấn luyện để làm đúng phạm vi công việc và giới hạn mà các nhà nghiên cứu đã duyệt.

Các con số chính

• Nhóm nghiên cứu của OpenAI đã dùng GPT-6 Cyber để tìm 81 lỗi nguy hiểm cao trong trình duyệt Firefox của Mozilla.
• Trong nghiên cứu nhân Linux, mô hình tái hiện được 1.724 lỗi. Với 948 lỗi trong số đó, nó viết được mã tấn công chạy thật (exploit).
• 304 phát hiện chính đã được báo cho những người bảo trì phần mềm, kèm theo bản vá khả dĩ.
• Trong bài kiểm tra ExploitGym, đo khả năng AI khai thác lỗi, GPT-6 Cyber đạt 48,5%. Mô hình trước là GPT-5.6 Cyber đạt 32,1%, tức cao hơn 16,4 điểm.
• Trong một thử nghiệm sớm trên môi trường máy chủ giống thực tế (RemoteExploitBench), mô hình hoàn thành 95% nhiệm vụ.

Bối cảnh

Các chuyên gia bảo mật thường nói AI có thể giúp người phòng thủ tìm và sửa lỗi nhanh hơn trước. Nhưng chính những kỹ năng đó cũng có thể giúp kẻ tấn công. Vì vậy, các công ty thường giới hạn người được dùng công cụ bảo mật mạnh và đặt luật về những gì được phép thử. OpenAI cho biết đã thêm các biện pháp bảo vệ, gồm chặn các hành động mạng rủi ro cao, phát hiện hành vi lạm dụng và theo dõi xem mô hình có ở trong nhiệm vụ đã duyệt hay không. Các yêu cầu có thể gây hại cho hạ tầng quan trọng, như hệ thống điện hoặc nước, bị giới hạn. Trong khi đó, nghiên cứu bảo mật được duyệt vẫn được hỗ trợ.

Vì sao điều này quan trọng?

Lỗi phần mềm có thể gây ra nhiều hậu quả lớn, từ bị đánh cắp dữ liệu đến dịch vụ bị hỏng. Nếu AI tìm và sửa lỗi nhanh hơn, phần mềm có thể an toàn hơn. Tuy vậy, một công cụ viết được mã tấn công cũng rất nguy hiểm nếu bị lạm dụng. Kết quả này cho thấy cả tiềm năng lẫn nhu cầu về giới hạn nghiêm ngặt. Việc OpenAI kiểm soát quyền truy cập tốt đến đâu sẽ quyết định công cụ này giúp người phòng thủ nhiều hơn hay kẻ tấn công nhiều hơn.

Cần theo dõi điều gì?

• OpenAI có mở GPT-6 Cyber cho tất cả khách hàng Daybreak Red như đã dự định hay không.
• 304 lỗi đã được báo cáo có được những người bảo trì phần mềm sửa hay không.
• Các biện pháp bảo vệ hoạt động thế nào khi dùng thực tế, ngoài môi trường thử nghiệm.
• Các công ty AI đối thủ sẽ phản ứng ra sao với mô hình bảo mật riêng của họ.