UK — The Register
中国の攻撃者がAIエージェントを展開、自律的に0-dayを発見・悪用して大学サーバーを乗っ取り
セキュリティ2分で読めます
中国につながる攻撃者が、AIエージェントを使って大学のサーバーを乗っ取った、という話です。AIエージェントは人の指示なしで、ソフトウェアの未知の欠陥(ゼロデイ)を自分で見つけて悪用しました。
何が起きたのか
Amazonのセキュリティ責任者 CJ Moses氏によると、中国とつながりがあるとみられる攻撃者が、AIエージェントを使いました。エージェントは、オープンソースの医療画像AIアプリ「MONAI Label」の未知の欠陥を自分で見つけ、悪用しました。その結果、大学のサーバーを完全に操作できるようになりました。攻撃には「Cairn」という侵入テストの道具が使われました。
主な数字と事実
- 攻撃は9月8日から48時間にわたって行われました。
- Amazonは9月10日に、Cairnが公開で動いているサーバーを見つけました。
- 別の大学のRedisサーバーには、約16時間・148回の操作で侵入を試みましたが、失敗しました。
- ゼロデインの発見から侵入までは、約11分でした。
- 別の作戦では、約6時間かけて80人分のユーザー名を集め、大学のGPUサーバーにパスワードを総当たりで試しました。こちらも成功しませんでした。
わかりにくい言葉の説明
ゼロデイとは、ソフトウェアの作り手がまだ気づいていない欠陥のことです。修正されていないため、防ぐのがとても難しい弱点です。AIエージェントとは、人が細かく指示しなくても、自分で次の行動を決めて作業を進めるAIプログラムのことです。
なぜ重要なのか
AIが人の手を離れて、攻撃を何度も試しながら自分で改善できることを示した例だからです。Amazonは「エージェントは、人の指示なしで1日近く作戦を変えながら続けた」と述べています。守る側は、AIを使った攻撃にも早く対応する必要があります。
今後注目すべき点
- MONAI Labelの修正版が、どれだけ多くの利用者に行き渡るか。
- Cairnのような侵入テストの道具が、犯罪者に使われ続けるかどうか。
- Gambit Securityなど別の調査会社が、同じような攻撃をさらに見つけるかどうか。
用語解説
- Amazon
- 世界的なネット通販とクラウドサービスを行う会社です。今回は攻撃を調べて報告しました。
- MONAI Label
- 医療画像をAIで扱うための、無料で公開されているソフトウェアです。
- Cairn
- セキュリティの弱点を調べる(侵入テスト)ためのオープンソースの道具です。今回は攻撃者に悪用されました。
- ゼロデイ
- 作り手がまだ知らず、修正されていない、ソフトウェアの未知の欠陥のことです。
- Redis
- データを素早く保存・読み出しするための、サーバー用のソフトウェアです。
- Gambit Security
- サイバー攻撃の情報を集めて分析する、セキュリティ会社の脅威情報チームです。