不正なLLM利用料金で企業に1日10万ドル超の損害、トークン窃盗が横行

何が起きたのか

攻撃者が企業のAIサービスの『鍵』（トークン）を盗み、その鍵で高性能なAIを勝手に大量に使っています。被害企業には、使った分の料金が請求されます。Googleのセキュリティ調査チーム Mandiant は、一部の企業で累計100万ドルに達した例もあったと述べています。被害企業がアクセス権を取り消すまで、請求は増え続けました。

数字で見る被害

• 1日の不正請求が10万ドルを超える場合がある
• 累計の被害が100万ドルに達した企業もあった
• ある攻撃者は2分間で約20万回のAPIリクエストを送った（CrowdStrikeの8月の報告）
• あるケースでは、攻撃者が8時間足らずで50万回以上のLLM API呼び出しを実行した

LLMジャッキングとは

AIのアクセス権を乗っ取って悪用する手口は『LLMジャッキング』と呼ばれ、この2年間で着実に増えています。攻撃者は盗んだAPIキーで新しいキーを作ったり、クラウドのサービスを有効にしたりします。さらに、被害者の口座を有料プランに登録して、高性能なAIモデルを使うケースもありました。

役割分担が進む犯罪グループ

Googleによると、犯罪者の間では役割分担も進んでいます。最初に侵入してクラウドやAIサービスへの足がかりを作る人と、盗んだアクセス権を使って金を稼ぐ仕組みを運営する人がいます。後者は『LLMミキサー』と呼ばれています。Jet Nightという『トークン中継サービス』は、盗んだキーで動いている可能性があるとGoogleは見ています。安い料金で高性能AIを提供していたためです。

なぜ重要なのか

AIを使う企業が増えるほど、狙われやすくなります。被害は、想定外の請求だけではありません。攻撃者がAIを使えば、防御側より速く大量の攻撃を仕掛けられる恐れもあります。Googleは、AIのアクセス権をしっかり守ることが、企業と社会全体の守りにつながると述べています。