Nguy cơ 'dính bẫy' khi nghe AI chỉ đường

Chuyện gì đã xảy ra?

Ngày càng nhiều người dùng AI để lập lộ trình chuyến đi ngoài trời. Có nhiều vụ phải cứu hộ khẩn cấp. Ở núi Shasta, Mỹ, ba người leo núi bị lạc và phải gọi cứu hộ. Họ đã quá tin vào chatbot Gemini của Google. Ở Canada, một thiếu niên 16 tuổi mắc kẹt trên một gờ đá sau khi lập kế hoạch bằng chatbot Claude của Anthropic. Đội cứu hộ phải dùng trực thăng để đưa em xuống.

Những con số đáng chú ý

• Ba người leo núi ở núi Shasta, Bắc California, phải gọi cứu hộ hồi cuối tháng 8. Họ leo lên đỉnh lúc 7 rưỡi tối rồi xuống núi trong bóng tối.
• Ở Vườn quốc gia Grand Teton, Wyoming, số sự cố liên quan đến du khách dùng AI tăng từ 0 lên 26% trong năm qua.
• Khoảng 58% du khách Mỹ đang dùng AI để lên lộ trình. Hơn 60% du khách thuộc thế hệ Millennial và Gen Z làm vậy.
• Ít nhất một nghiên cứu cho thấy chatbot lập kế hoạch du lịch chỉ chính xác trong 10% trường hợp.

Vì sao AI có thể sai?

Chatbot AI tổng hợp thông tin từ nhiều nguồn, kể cả mạng xã hội. Các nguồn này có thể không đáng tin hoặc đã cũ. Chatbot có thể bịa ra thông tin nhưng nói rất chắc chắn, nên người dùng khó nhận ra lỗi.

Vì sao chuyện này quan trọng?

Ở nơi hoang dã, một sai lầm nhỏ có thể gây nguy hiểm lớn. Khi tin vào AI quá nhiều, người đi có thể bỏ qua suy nghĩ của chính mình. Giáo sư Chris Flathmann cảnh báo rằng khi hoảng sợ ở nơi vắng vẻ, người ta rất khó suy nghĩ lại một cách tỉnh táo.

Cần theo dõi điều gì?

• Các nhà quản lý cứu hộ muốn xem AI có làm tăng số tai nạn ở vùng hẻo lánh hay không.
• Số cuộc gọi cứu hộ ở Wyoming năm 2026 đang thấp hơn năm 2025, nên chưa thể kết luận AI là nguyên nhân chính.
• Công nghệ AI đang được cải thiện, nhưng chatbot vẫn thường mắc lỗi.