US — Ars Technica
漏えいするAIサプライチェーン、ユーザーの機密データを驚くべきペースで露出させている
セキュリティ2分で読めます
AI アプリが使う「AI ルーター」と呼ばれる仲介サービスの連鎖で、機密情報が大量に漏れていることが分かった、という記事です。研究者が仕掛けた「わな」で、その実態が明らかになりました。
何が起きたのか
研究者たちは、AI サービスの広いネットワークに送られるリクエストに、200万個のデジタルの「わな」を仕込みました。その結果、機密情報が非常に漏れやすい仕組みになっていることが分かりました。実験では、偽の認証情報(パスワードや鍵)を送り、それがどこで使われるかを追跡しました。
AI ルーターとは
多くの AI アプリは、OpenRouter や Vercel といった「AI ルーター」を仲立ちに使っています。AI ルーターは、アプリの利用者から届いた質問を受け取り、料金が安いものや、その仕事に向いたAIモデルへ振り分けます。開発者は、Anthropic や OpenAI といった大手を直接使わず、ルーターに最適なモデルを探してもらっています。
実験の主な数字と内容
- 仕込まれた「わな」は 200万個
- わなには、AWS のアクセスキー、SSH のパスワード、非公開の git リポジトリの参照などが含まれた
- どの秘密情報も、これまで一度も使われていなかった
- 秘密情報は、それぞれ 1 つのプロバイダーに送られた 1 つのリクエストだけに入れられた
「わな」の仕組み
研究者の HD Moore 氏は、使われたことのない秘密情報を集め、それを受け取るインフラも自分で管理しました。もし情報が漏れれば、「わな」が使われた時点で、どの場所で漏れたかを特定できます。名前は、昔の炭鉱で危険を知らせるために使われたカナリア(鳥)になぞらえています。
なぜ重要なのか
AI ルーターは多くの人の質問を通すため、そこで情報が漏れると被害が大きくなります。パスワードや鍵が盗まれると、クラウドの中身を勝手に使われたり、個人情報が外に出たりする危険があります。AI を使うときは、どの会社がデータを扱っているのかを確かめることが大切です。
用語解説
- OpenRouter
- 複数のAIモデルへ質問を振り分ける、AI ルーターのサービスです。
- Vercel
- Web アプリを作って公開するためのサービスで、記事では AI ルーターの例として挙げられています。
- SSH
- 遠くのコンピューターに安全につながるための方法、またはその接続に使う認証情報です。