ハッカーがAIコーディングツールOpenCodeを攻撃、ユーザーのAIアカウントに高額請求が発生

何が起きたのか

攻撃者は一晩のうちに、OpenCodeの古いシステムに侵入しました。そのシステムはOpenCode Consoleで、一部のユーザーがAPIキーを保存している場所です。APIキーは、プログラムがAIサービスを使うための秘密のコードです。攻撃者は漏れたキーを使い、ユーザーのAIアカウントで大量の料金を発生させました。オープンソースのアプリ本体は影響を受けていません。

主な数字と事実

• OpenCode Consoleのユーザーの約1.4%が被害を受けました。
• 数百ドルの請求があったという報告があり、なかには1,000ドルを超えた人もいます。
• AnthropicとGoogleは、漏れたと考えられるキーをブロックしました。
• OpenAIは、攻撃で使われたクレジットをAPI顧客に返金すると発表しました。
• 攻撃者は48時間にわたり休みなく侵入を試みました。

AIモデルが使いにくかった理由

OpenCodeのチームは、攻撃のコードを調べるためにAIモデルを使いました。多くのAIモデルには、一部の依頼を断る安全フィルターがあります。攻撃コードを見せるとフィルターが作動し、モデルは手伝いを止めてしまいました。その後OpenCodeは、認証されたユーザーにセキュリティ作業を断りにくいモデルを提供するOpenAIのプログラムを利用できるようになりました。

なぜ重要なのか

この話は難しい問題を示しています。守る側はAIによる攻撃に対抗するためにAIツールが必要ですが、安全ルールがまさにその助けを止めてしまうことがあります。専門家の中には、そのためにチームが誰でもダウンロードして使えるオープンモデルへ向かうと指摘する人もいます。また、今回の攻撃が、AIモデルの出力を大量に集めて模倣する「蒸留」に使われたかどうかは、まだ証明されていないとの意見もあります。

今後注目すべき点

• OpenCodeが被害ユーザーへの返金を完了するか。
• OpenCodeが攻撃の経緯を説明するか。
• AI企業がセキュリティ防御側のために安全フィルターの仕組みを変えるか。
• より多くの企業が、セキュリティ作業向けの認証済みAIモデルを使えるようになるか。