US — Ars Technica
Chuỗi cung ứng AI rò rỉ đang làm lộ dữ liệu bí mật của người dùng với tốc độ đáng báo động
Bảo mật2 phút đọc
Một nghiên cứu cho thấy chuỗi dịch vụ AI, đặc biệt là các "bộ định tuyến AI", có thể làm lộ dữ liệu nhạy cảm của người dùng. Nhà nghiên cứu đã dùng các "bẫy" số để theo dõi xem thông tin bị rò rỉ ở đâu và bị khai thác thế nào.
Chuyện gì đã xảy ra
Nhà nghiên cứu HD Moore đặt 2 triệu "bẫy số" vào các yêu cầu gửi qua một mạng lưới dịch vụ AI rộng lớn. Mục đích là xem thông tin nhạy cảm có bị lộ hay không. Kết quả cho thấy nhiều dữ liệu quan trọng bị rò rỉ rất dễ dàng.
Bộ định tuyến AI hoạt động thế nào
Nhiều ứng dụng AI dùng các dịch vụ trung gian như OpenRouter hay Vercel. Các dịch vụ này nhận câu lệnh từ người dùng và chuyển đến mô hình AI phù hợp, thường dựa trên giá rẻ nhất hoặc mức độ phù hợp với công việc. Nhà phát triển không gọi trực tiếp các hãng lớn như Anthropic hay OpenAI, mà thuê bộ định tuyến để chọn mô hình. Vì vậy, dữ liệu phải đi qua nhiều bên trung gian.
Các con số và sự kiện chính
- Có 2 triệu bẫy số được đặt vào các yêu cầu.
- Các bí mật thử nghiệm gồm khóa truy cập AWS, mật khẩu SSH, URL và tham chiếu kho mã git riêng.
- Mỗi bí mật chỉ được đưa vào đúng một câu lệnh, gửi tới một nhà cung cấp duy nhất.
- Chưa có bí mật nào từng được dùng trước đó, và Moore kiểm soát hạ tầng nhận các yêu cầu.
Vì sao điều này quan trọng
Khi dữ liệu đi qua quá nhiều bên trung gian, một mắt xích yếu có thể làm lộ thông tin của cả người dùng. Mật khẩu hay khóa truy cập bị lộ có thể bị kẻ xấu dùng để chiếm tài khoản hoặc đánh cắp dữ liệu. Các "bẫy" của nghiên cứu giúp tìm ra chính xác mắt xích nào gây ra rò rỉ.
Cần theo dõi điều gì
- Các bộ định tuyến AI có thay đổi cách bảo vệ dữ liệu hay không.
- Nhà phát triển có kiểm tra kỹ hơn các dịch vụ trung gian họ dùng hay không.
- Có thêm báo cáo về việc bí mật bị lạm dụng sau khi rò rỉ hay không.
Chú giải
- OpenRouter
- Dịch vụ trung gian (bộ định tuyến AI) giúp chuyển yêu cầu của ứng dụng đến nhiều mô hình AI khác nhau.
- Vercel
- Nền tảng giúp đưa ứng dụng web lên mạng, cũng được dùng làm bộ định tuyến AI trong bài.
- SSH
- Giao thức dùng để đăng nhập từ xa vào máy tính khác một cách an toàn.