US — TechCrunch
Tin tặc tấn công công cụ lập trình AI OpenCode, làm phát sinh chi phí lớn trên tài khoản AI của người dùng
Bảo mật2 phút đọc
Tin tặc đã xâm nhập vào bảng điều khiển trực tuyến của OpenCode, một công cụ lập trình bằng AI, khiến tài khoản AI của một số người dùng bị tính phí lớn. Vụ việc cho thấy việc phòng thủ trước các cuộc tấn công do AI điều khiển có thể rất khó khi bộ lọc an toàn của AI chặn các công việc bảo mật.
Chuyện gì đã xảy ra?
Kẻ tấn công đã xâm nhập một hệ thống cũ của OpenCode trong đêm. Hệ thống này là OpenCode Console, nơi một số người dùng lưu khóa API. Khóa API là mã bí mật giúp một chương trình sử dụng dịch vụ AI. Kẻ tấn công dùng các khóa bị lộ để tạo ra nhiều khoản phí trên tài khoản AI của người dùng. Ứng dụng mã nguồn mở và công cụ dòng lệnh không bị ảnh hưởng.
Số liệu chính
- Khoảng 1,4% người dùng OpenCode Console bị ảnh hưởng.
- Một số người báo bị tính phí hàng trăm đô la. Một vài người báo tổng trên 1.000 đô la.
- Anthropic và Google đã chặn các khóa mà họ cho là bị lộ.
- OpenAI cho biết sẽ hoàn tiền tín dụng đã dùng trong vụ tấn công cho khách hàng API.
- Kẻ tấn công đã liên tục thử xâm nhập trong 48 giờ.
Vì sao khó dùng mô hình AI?
Đội OpenCode đã dùng mô hình AI để phân tích mã tấn công. Nhiều mô hình AI có bộ lọc an toàn để từ chối một số yêu cầu. Khi mã tấn công được đưa vào, bộ lọc bật lên và mô hình ngừng hỗ trợ. Sau đó, OpenCode được tiếp cận một chương trình của OpenAI, cung cấp cho người dùng đã được xác minh các mô hình ít từ chối công việc bảo mật hơn.
Vì sao điều này quan trọng?
Câu chuyện cho thấy một vấn đề khó. Bên phòng thủ cần công cụ AI để chống lại các cuộc tấn công do AI điều khiển, nhưng quy tắc an toàn có thể chặn chính sự trợ giúp đó. Một số chuyên gia cho rằng điều này đẩy các nhóm sang mô hình mở mà ai cũng có thể tải về chạy. Cũng có ý kiến cho rằng việc vụ tấn công dùng để chưng cất mô hình, tức sao chép kết quả đầu ra của AI, vẫn chưa được chứng minh.
Cần theo dõi điều gì?
- OpenCode có hoàn tất việc hoàn tiền cho người dùng bị ảnh hưởng hay không.
- OpenCode có giải thích cách vụ tấn công xảy ra hay không.
- Các công ty AI có thay đổi cách bộ lọc an toàn hoạt động với bên phòng thủ hay không.
- Ngày càng nhiều công ty có được quyền dùng mô hình AI đã xác minh cho công việc bảo mật hay không.
Chú giải
- OpenCode
- Tác nhân lập trình AI mã nguồn mở, giúp lập trình viên viết code.
- OpenCode Console
- Nền tảng trực tuyến nơi một số người dùng OpenCode lưu khóa API.