heise+ | Google bảo vệ các tác nhân AI của mình khỏi prompt injection như thế nào – Phỏng vấn

Chuyện gì đã xảy ra

heise đã nói chuyện với Viviana Sutedjo tại Munich. Bà làm việc về an ninh AI tại Google. Buổi phỏng vấn nói về cách Google giữ cho các AI agent an toàn trước prompt injection. Phần xem thử miễn phí dừng trước phần trả lời, nên toàn bộ nội dung chỉ đọc được khi có gói đăng ký heise+.

Prompt injection là gì?

Prompt injection là cách dùng câu chữ khéo léo để đánh lừa AI. Lúc đầu, các chiêu này khá đơn giản. Người ta viết yêu cầu bằng tiếng khác, hoặc kể một câu chuyện buồn để AI nới lỏng giới hạn. Ngày nay, các chiêu trò khó phát hiện hơn. Ví dụ, một lời mời lịch ẩn trong email có thể đánh lừa một AI agent chuyên tóm tắt thư. Tên gọi này xuất phát từ SQL injection, một lỗ hổng bảo mật máy tính đã được biết đến từ lâu.

Các điểm chính

• AI agent có thể đọc email và dùng các ứng dụng để làm việc thật.
• Nếu bị đánh lừa, agent có thể làm lộ dữ liệu hoặc làm việc theo ý kẻ tấn công.
• Bài viết không đưa ra con số cụ thể nào trong phần xem thử.

Vì sao điều này quan trọng

AI agent ngày càng làm được nhiều việc thay con người. Vì vậy, việc bảo vệ chúng là nhiệm vụ quan trọng của các công ty xây dựng ra chúng. Nếu không bảo vệ tốt, dữ liệu cá nhân và công việc của người dùng có thể bị đe dọa.

Cần theo dõi điều gì

• Đọc toàn bộ bài phỏng vấn bằng gói heise+ để biết Google bảo vệ agent như thế nào.
• Theo dõi các kiểu tấn công prompt injection mới khi AI agent ngày càng có nhiều quyền hơn.
• Chú ý các phương pháp an toàn mới từ Google và các công ty AI khác.