EXPLORINEER
ja

US — Ars Technica

漏えいするAIサプライチェーン、ユーザーの機密データを驚くべきペースで露出させている

セキュリティ2分で読めます

AI アプリが使う「AI ルーター」と呼ばれる仲介サービスの連鎖で、機密情報が大量に漏れていることが分かった、という記事です。研究者が仕掛けた「わな」で、その実態が明らかになりました。

何が起きたのか

研究者たちは、AI サービスの広いネットワークに送られるリクエストに、200万個のデジタルの「わな」を仕込みました。その結果、機密情報が非常に漏れやすい仕組みになっていることが分かりました。実験では、偽の認証情報(パスワードや鍵)を送り、それがどこで使われるかを追跡しました。

AI ルーターとは

多くの AI アプリは、OpenRouter や Vercel といった「AI ルーター」を仲立ちに使っています。AI ルーターは、アプリの利用者から届いた質問を受け取り、料金が安いものや、その仕事に向いたAIモデルへ振り分けます。開発者は、Anthropic や OpenAI といった大手を直接使わず、ルーターに最適なモデルを探してもらっています。

実験の主な数字と内容

  • 仕込まれた「わな」は 200万個
  • わなには、AWS のアクセスキー、SSH のパスワード、非公開の git リポジトリの参照などが含まれた
  • どの秘密情報も、これまで一度も使われていなかった
  • 秘密情報は、それぞれ 1 つのプロバイダーに送られた 1 つのリクエストだけに入れられた

「わな」の仕組み

研究者の HD Moore 氏は、使われたことのない秘密情報を集め、それを受け取るインフラも自分で管理しました。もし情報が漏れれば、「わな」が使われた時点で、どの場所で漏れたかを特定できます。名前は、昔の炭鉱で危険を知らせるために使われたカナリア(鳥)になぞらえています。

なぜ重要なのか

AI ルーターは多くの人の質問を通すため、そこで情報が漏れると被害が大きくなります。パスワードや鍵が盗まれると、クラウドの中身を勝手に使われたり、個人情報が外に出たりする危険があります。AI を使うときは、どの会社がデータを扱っているのかを確かめることが大切です。

用語解説

OpenRouter
複数のAIモデルへ質問を振り分ける、AI ルーターのサービスです。
Vercel
Web アプリを作って公開するためのサービスで、記事では AI ルーターの例として挙げられています。
SSH
遠くのコンピューターに安全につながるための方法、またはその接続に使う認証情報です。

出典: Ars Technicaで原文を読む ↗

この記事は原文をもとにAIがやさしい言葉で書き直した解説です。事実関係は原文をご確認ください。

同じニュース、違う視点で

広告

150語を取り込んで、1日10語ずつ

Dicter の単語帳は、覚えた単語だけを復習ノートに残します。

セキュリティTechCrunch

Signal、AI監視の「存亡的脅威」に対抗しモバイルのスクリーンショットを制限

Signalは金曜日、安全なメッセージングアプリ内でユーザーがスクリーンショットを撮る機能を制限すると発表しました。これは、エージェント型AIを統合するオペレーティングシステムがもたらす「存亡的脅威」とMeredith Whittaker社長が呼ぶものへの対応です。Signalはすでに Windowsアプリのスクリーンショットをデフォルトでブロックしており、今回AndroidとiOSにも同様の制限を追加しますが、ユーザーは設定を無効にできます。Whittakerは、AIエージェントがアプリデータにアクセスする他の方法には対応していないため、この解決策は「不完全」だと認めています。

セキュリティTechCrunch

トランプ氏、報じられたFBIデータベースへのハッキングは「良くない」と発言

CNNとAP通信の報道によると、FBIは、法執行機関が逮捕状や身元調査などの情報を共有するために使う国家犯罪情報センター(NCIC)への不正侵入の疑いを調査している。侵害の範囲はまだ明らかではなく、元FBI当局者は、捜査官が頼る情報の正確性が損なわれる可能性を懸念していると述べた。トランプ大統領はFox Newsのインタビューで、この報道について「良くない」と語った。

セキュリティThe Verge

FBIとUSDAがハッキングされたと報じられる

米農務省(USDA)とFBIがいずれもハッキングされたと報じられた。CNNによると、FBIへの攻撃は法執行機関が令状や行方不明者情報を共有するために使う全米犯罪情報センター(NCIC)を標的としており、数か月のうちに同機関への2度目の攻撃となる。トランプ大統領はFox NewsのインタビューでFBIのハッキングを認めた。USDAの侵害はNBCが最初に報じ、ロイターによると、現時点で判明している範囲は支払いデータベースだが、より機微な情報へのバックドアになる恐れがあるという。

セキュリティheise online

報道:FBIの中央データベースにサイバー攻撃

メディアの報道によると、FBIの中央データベースNCIC(全米犯罪情報センター)がサイバー攻撃を受けた。このデータベースには逮捕状などアメリカ市民に関する重要なデータが含まれ、他の米国当局も身元調査に利用している。CNNは捜査に詳しい2人の情報源を引用して報じており、FBIはまだコメントしていない。FBIでは今年これが2件目のITセキュリティ事案で、9月にはハッカー集団ShinyHunters(シャイニーハンターズ)がFBI職員のほぼ全員のデータを盗んだと主張していた。