Lưu trữ — US — techcrunch
OpenAI cảnh báo trình duyệt AI có thể luôn bị tổn thương trước các cuộc tấn công chèn lệnh.
OpenAI cảnh báo rằng trình duyệt trí tuệ nhân tạo của họ, Atlas, luôn tồn tại nguy cơ bị tấn công prompt injection, là kỹ thuật can thiệp vào mã lệnh để tấn công trí tuệ nhân tạo thông qua các hướng dẫn âm muộn độc hại. Mặc dù đã nỗ lực nâng cao bảo mật, OpenAI nhận thức rằng thách thức này là liên tục và tương tự như các mối đe dọa từ kỹ thuật xâm nhập xã hội. Họ áp dụng các công cụ tấn công tự động để phát triển phòng thủ nhanh chóng và khuyến nghị người dùng hạn chế quyền truy cập vào trí tuệ nhân tạo để giảm thiểu rủi ro.
Điểm chính
- OpenAI đã công nhận rằng các cuộc tấn công tiêm lời chỉ đạo vẫn đang là mối đe dọa dai dẳng đối với trình duyệt AI, đồng thời lưu ý rằng khả năng loại bỏ hoàn toàn chúng là không tưởng.
- Việc ra mắt ChatGPT Atlas đã khơi nguồn cho các cuộc thảo luận về các lỗ hổng bảo mật, với các nhà nghiên cứu thể hiện cách mà những cuộc tấn công này có thể dễ dàng thay đổi hành vi của trình duyệt.
- Trung tâm An toàn Mạng Quốc gia của Vương quốc Anh cũng nhấn mạnh nguy cơ tiêm lời chỉ đạo liên tục trong các ứng dụng AI, đề xuất các biện pháp tích cực thay vì tìm kiếm giải pháp hoàn chỉnh.
- Cách tiếp cận của OpenAI bao gồm việc sử dụng một kẻ tấn công tự động đã được huấn luyện bởi học tăng cường để mô phỏng các cuộc tấn công và xác định các lỗ hổng bảo mật trước khi chúng có thể bị khai thác.
- Các biện pháp phòng ngừa được OpenAI khuyến nghị cho người dùng bao gồm việc hạn chế quyền truy cập của AI vào thông tin nhạy cảm và yêu cầu xác nhận cho các hành động được thực hiện bởi các yếu tố AI.
Vì sao quan trọng
- Các cuộc tấn công chèn mã thể hiện những thách thức bảo mật mà ngành công nghệ và trí tuệ nhân tạo đối diện, tương tự như làn sóng vi phạm dữ liệu và lừa đảo.
- Sự phát triển liên tục của các công nghệ trí tuệ nhân tạo đặt ra câu hỏi về tính an toàn và bảo mật của chúng, đặc biệt khi có sự tăng cường tự động hóa và truy cập dữ liệu.
- Các sáng kiến tương tự từ các công ty như Google và Anthropic cho thấy sự thừa nhận chung của ngành công nghiệp về tính liên tục của những mối đe dọa bảo mật như vậy.
OpenAI đã xác định việc tiêm câu lệnh là một thách thức lâu dài, đồng thời nhấn mạnh sự phức tạp của việc tích hợp trí tuệ nhân tạo một cách an toàn vào môi trường người dùng. Việc thực hiện các biện pháp an ninh liên tục và nâng cao nhận thức là rất quan trọng khi công nghệ này và các rủi ro liên quan phát triển.