VN — VnExpress
Google、AIが完全自動で実行した初のサイバー攻撃を検出
セキュリティ2分で読めます
Googleは、人間が指示を出さずにAIだけで実行された、初めての本物のサイバー攻撃を見つけたと発表しました。AIシステムは弱点を探し、攻撃用のコードを書き、フランスのウェブサイトを攻撃しました。
何が起きたのか
Googleは、ほぼ偶然にAIシステムを見つけたと述べています。このシステムは、セキュリティの穴を探し、攻撃用のコードを書き、人間の助けなしにフランスのウェブサイトを攻撃していました。Googleの脅威情報チームGTIGと、セキュリティ会社Mandiantがこれを確認しました。以前の攻撃では、チャットボットは主に悪意のあるソフトウェア(マルウェア)を書くためだけに使われていました。今回は、弱点を探すことから実際に使うことまで、すべての手順をAIが自分で行いました。
重要な数字と事実
- Googleは、インターネット上のテスト用サーバーで「exploit_agent」という複数のAIが協力するシステムを見つけました。
- このシステムは、文章を理解して書くことができる大規模言語モデル(LLM)と複数つながっており、ローカルで動いていました。
- 主な攻撃先は、フランスのメディア、教育、エンターテイメントのウェブサイトでした。
- Googleは、特定のハッカー集団や国を犯人としては名指ししていません。
どのような仕組みだったのか
このシステムは「パッチ差分」という方法を使いました。これは、開発者がセキュリティの修正を公開する前後のコードを比べる方法です。そのため、直されたばかりの弱点を見つけられました。そして、まだ修正をインストールしていないシステムに攻撃コードを使いました。侵入後のサーバーには、内部ネットワークを調べる道具、パスワードを自動で推測する道具、そして侵入を続けるために遠隔操作できるマルウェアを入れる道具もありました。
なぜ重要なのか
Googleによると、犯罪者は1つの道具ではなく、複数の専門AIに仕事を分ける「マルチエージェント」の形に移りつつあります。ある AIは標的を調べ、別のAIは弱点を探し、3つ目のAIは攻撃コードを書いて試し、次に何をするかを決めます。Googleは、ハッカーが試している公開されたハッキング用ツールも挙げました。AIが書いたマルウェアはまだ間違いが多く、自動攻撃は見つかりやすい通信の跡を残すこともあります。しかし専門家は、セキュリティの状況が急速に変わっていると述べています。Googleは、組織にできるだけ早く更新を入れること、クラウドのアカウントを厳しく守ること、そして速くなる攻撃に対抗するために、AIを使った自動防御を早めに導入することを勧めています。
今後注目すべき点
- Googleの発表後、他の企業や研究者が同じようなAI攻撃を見つけるかどうか。
- ARTEX、CAIRN、CyberStrikeAI、PentAGI、HexStrike AIなどのツールが、どこまで悪用されるか。
- 組織が修正プログラムの適用を早められるか。
- AIを使った自動防御が、速い攻撃にどこまで追いつけるか。
用語解説
- 検索や広告、クラウドなどを提供するアメリカの大手IT企業です。
- Mandiant
- サイバー攻撃を調べて対応するセキュリティ会社です。
- マルウェア
- パソコンやシステムに害を与えるために作られた悪意のあるソフトウェアです。
- 大規模言語モデル(LLM)
- 大量の文章を学習し、文章を理解したり書いたりするAIのことです。
- パッチ差分
- 修正の前後でコードを比べ、直された弱点を見つける方法です。
- PentAGI
- 公開されているハッキング用のツールの一つで、ハッカーが試しています。