AI 길안내를 믿었다가 낭패를 볼 위험

무슨 일이 일어났나

사람들이 AI 챗봇으로 깊은 자연 속 여행 경로를 짜는 일이 늘었습니다. 일부 도구는 소셜 미디어의 믿기 어려운 정보를 지도와 길 안내에 섞어 넣습니다. 그 결과 그럴듯해 보이지만 현실에서는 쓸 수 없는 계획이 만들어집니다. 최근 여러 건의 구조 사례가 이런 문제를 보여 줍니다.

주요 사례와 숫자

• 8월 말: 캘리포니아 북부 샤스타산에서 등반가 3명이 너무 늦게 올라가고, 음식을 충분히 챙기지 않고, 자신의 체력을 과대평가해 구조되었습니다. 이들은 계획이 나빴던 이유 일부를 구글의 제미나이 챗봇 탓으로 돌렸습니다.
• 10월 초: 캐나다 브리티시컬럼비아에서 16살 소년이 바위 턱에 갇혀 헬리콥터가 필요했습니다. 소년은 앤스로픽의 클로드 챗봇으로 여행을 계획했습니다.
• 포쿠스라이트 조사에 따르면 미국 여행자의 약 58%가 경로를 짤 때 AI를 사용합니다. 밀레니얼 세대와 Z세대 여행자는 60%가 넘습니다.
• 한 연구에서 여행 계획 챗봇의 답이 맞은 비율은 10%뿐이었습니다. 이 연구는 2024년에 이루어졌고, 그 뒤 도구는 나아졌습니다.
• 와이오밍주 그랜드티턴 국립공원에서는 AI 여행 정보와 관련된 사고가 1년 사이 0%에서 26%로 늘었습니다.

챗봇은 왜 틀릴까

챗봇은 틀린 정보도 아주 자신 있게 말합니다. 오래되었거나 불완전한 고정 자료에 기대고, 사용자가 듣고 싶은 말을 하는 경향도 있습니다. 한 연구자는 비판적으로 생각하는 习慣을 잃은 사람은 멀리 떨어진 무서운 상황에서 침착하게 판단하기 어려울 수 있다고 경고합니다.

왜 중요한가

야생에서 실수는 목숨을 잃을 수 있습니다. 잘못된 길, 틀린 지도, 야영이 허용된다는 거짓 말은 사람을 위험에 빠뜨리고 구조대의 시간과 힘을 빼앗습니다. 전문가들은 AI 잘못 사용이 사고를 늘리고 있는지는 아직 분명하지 않다고 말합니다. 그래서 사람들은 AI의 조언을 공식 지도, 공원 규칙, 날씨 정보와 비교해 확인해야 합니다.

앞으로 지켜볼 점

• 앞으로 몇 년 동안 구조대가 AI 조언과 관련된 신고를 더 많이 받을지 여부
• 챗봇 회사들이 야외 여행 계획에서 정확도를 높일지 여부
• 국립공원이 AI에 의존한 여행 계획의 위험을 알리는 경고를 더 분명하게 붙일지 여부