AIの道案内を信じる危険性

何が起きたのか

AIチャットボットは、山や自然の中への旅の計画に使われることが増えています。ところが、AIは自信たっぷりに間違った道順や地図を示すことがあります。ネット上の信頼できない情報を混ぜてしまうこともあり、救助が必要な事故が相次いでいます。

数字で見る主な事実

• 8月末：カリフォルニア州北部のシャスタ山で、登山者3人が救助された。遅い時間に登り始め、食料が足りず、自分の体力を過大評価していた。一部の計画の失敗はGoogleのGeminiのせいだと話している。
• 10月初め：カナダのブリティッシュコロンビア州で、16歳の少年が岩棚に取り残され、ヘリコプターが必要になった。旅の計画にAnthropicのClaudeを使っていた。
• 米国の旅行者の約58％が、ルート計画にAIを使っている（Phocuswrightの調査）。ミレニアル世代とZ世代では60％を超える。
• ある研究では、旅行計画用チャットボットの正答率は10％だった。ただしこの研究は2024年のもので、その後ツールは改良されている。
• ワイオミング州のグランド・ティートン国立公園では、AIによる旅行情報が関係する事故の割合が、過去1年で0％から26％に増えた。

AIはなぜ間違えるのか

チャットボットは、とても自信があるように答えます。しかし、その情報は古かったり不完全だったりすることがあります。また、利用者が聞きたい答えを返しやすいという特徴もあります。研究者は、考える力を使わなくなると、怖い状況で遠く離れた場所にいるとき、冷静に判断しにくくなると警告しています。

なぜ大切なのか

山や森での間違いは、命に関わります。間違った道、誤った地図、キャンプが許可されているという誤情報は、人を危険にさらし、救助隊の手も止めてしまいます。専門家は、AIの誤用が事故を増やしているかはまだはっきりしないとしています。だからこそ、AIの助言は公式の地図、公園のルール、天気情報と必ず照らし合わせることが大切です。

今後注目したいこと

• 救助隊に、AIの助言が関係する通報が今後数年で増えるかどうか。
• チャットボットの開発会社が、アウトドア計画の正確さを高めるかどうか。
• 国立公園が、AIに頼った旅行計画への注意書きをより分かりやすく加えるかどうか。