LLM mới: Gemini 4 Carbon là chuyên gia khai thác lỗ hổng

Chuyện gì đã xảy ra

Google vừa công bố Gemini 4 Carbon, mô hình ngôn ngữ lớn (LLM) mới nhất của hãng. LLM là hệ thống AI có thể đọc và viết văn bản. Carbon thay thế Argon, mẫu mà Google giới thiệu chỉ bốn tuần trước. Hiện nay, Carbon chưa mở cho mọi người. Google cho biết trước tiên sẽ chia sẻ mô hình với các cơ quan tình báo Mỹ và một số người dùng được chọn. Về sau, các chuyên gia an ninh mạng được chọn và đối tác đáng tin cậy khác sẽ được dùng qua chương trình có tên Fairwind.

Con số chính

• Bài kiểm tra Exploitgym: Carbon đạt gần 55%, còn Argon đạt 42%.
• Bài kiểm tra SEC-bench Pro: Carbon đạt hơn 88%, vượt GPT-6 Astra.
• Bài kiểm tra CWE-bench (sửa lỗ hổng bảo mật): Carbon đạt 71%.
• Giá: 4 USD cho mỗi triệu token đầu vào và 20 USD cho mỗi triệu token đầu ra. Ưu đãi giới thiệu giảm 50% áp dụng lúc đầu.
• Google chưa nói khi nào Carbon sẽ công khai, nhưng cho biết việc này sẽ diễn ra sớm. Argon mất khoảng hai tuần để được công khai.

Bối cảnh

Bài báo cho biết Google làm theo yêu cầu từ Nhà Trắng. Công ty nói sẽ giới hạn các mô hình AI mới trong các cơ quan tình báo Mỹ và những người dùng mà họ phê duyệt. Google cũng nói đến nay chưa có cuộc tấn công 'prompt injection' nào thành công với Carbon. Đây là kiểu lừa AI bằng các chỉ dẫn ẩn trong văn bản, khiến AI làm việc mà người dùng không yêu cầu.

Vì sao điều này quan trọng

Điểm mạnh lớn nhất của Carbon là tìm và viết các cuộc tấn công vào phần mềm, gọi là exploit. Kỹ năng này giúp chuyên gia bảo mật bảo vệ hệ thống. Nhưng kẻ xấu cũng có thể lạm dụng nó. Vì vậy Google giữ quyền truy cập hẹp. Câu chuyện cho thấy các công ty AI đang phải cân bằng giữa tốc độ phát triển nhanh và an toàn, cùng với luật lệ của chính phủ.

Cần theo dõi điều gì

• Khi nào Carbon được đưa ra công chúng.
• Chương trình Fairwind có mở cho thêm nhóm người dùng nào không.
• Các bài kiểm tra độc lập có xác nhận được khả năng và độ an toàn mà Google nêu hay không.