Lưu trữ — JP — japantimes
Các nhà nghiên cứu cảnh báo thông tin sai lệch của Nga 'lây lan' vào chatbot AI
Các nhà nghiên cứu cảnh báo rằng mạng lưới tin tức giả mạo Nga, Pravda, đang thao túng các trí tuệ nhân tạo (AI) chatbot để lan truyền thông tin tuyên truyền ủng hộ nhà Kremlin, ảnh hưởng đến độ tin cậy của các phản ứng trong hệ thống AI ở phương Tây, đặc biệt sau khi Mỹ báo cáo đã tạm ngừng các hoạt động mạng tấn công của mình đối với Moscow. Một nghiên cứu đã phát hiện rằng các chatbot hàng đầu lặp lại các thông tin sai lầm của Pravda hơn 33% trong tổng số lần trả lời.
Điểm chính
- Mạng lưới thông tin sai lệch Nga Pravda thao túng các chatbot AI phương Tây.
- Hoạt động này biến tấu các kết quả bằng cách tràn lan các câu chuyện giả mạo ủng hộ Kremlin cho các mô hình ngôn ngữ lớn.
- Một nghiên cứu của NewsGuard đánh giá 10 chatbot AI hàng đầu, cho thấy chúng lặp lại những thông tin sai lầm từ Pravda hơn 33% thời gian.
- Mỹ đã tạm dừng các hoạt động mạng lưới tấn công số chống lại Nga, có thể ảnh hưởng đến khả năng của AI đối phó thông tin sai lệch.
Vì sao quan trọng
- Sự phát triển của các chatbot AI đang đặt ra những thách thức mới trong việc chống lại thông tin sai lệch, như đã được thể hiện qua hiệu quả của mạng lưới Pravda.
- Sự cố này nhấn mạnh tầm quan trọng của các biện pháp an ninh mạng trong việc bảo vệ AI khỏi ảnh hưởng bên ngoài, liên quan đến các cuộc tranh luận đang diễn ra về xu hướng IT năm 2025.
- Tình hình phản ánh những lo ngại rộng lớn về tính toàn vẹn của hệ thống AI và sự dễ bị tác động và các chiến dịch thông tin sai lệch.
Việc điều khiển các AI chatbot bởi thông tin sai lệch của Nga đã làm nổi bật những yếu điểm của các công nghệ mới nổi và nhấn mạnh sự cần thiết cấp bách của các biện pháp chặt chẽ chống lại thông tin sai lệch trong thời đại số.