Google、パッチから攻撃コードを自動生成するAIの実運用を初確認
セキュリティ関連SiliconANGLE
セキュリティAIエージェント脆弱性脅威インテリジェンスGoogle
Google Threat Intelligence Groupの報告として、人の操作を介さずに動くAIの枠組みがWebアプリの修正パッチを解析し、攻撃コードを自動生成・実行していたことが初めて確認された。公表から1日で悪用コードが作られた例もあり、公開Webアプリを運用する事業者はパッチ適用の速度と検証環境の露出を見直す必要がある。
何が発表されたか
SiliconANGLEが2026年11月16日に報じたGoogle Threat Intelligence Group(GTIG)の報告によると、人の操作を介さずに動くAIの枠組みが、公開された修正パッチから攻撃コードを作り出して実行していたことが初めて確認された。
- 枠組みの名称は「exploit_agent」。インターネットに露出したステージングサーバー上で動作し、複数のフロンティアモデルとローカルで動かすLLMに接続されていた
- パッチ公開の前後でWebアプリのコードを比較し、作成した攻撃コードを自動で実行していた
- 被害者側の通信記録からは、運用者がフランスのメディア、エンターテインメント、教育分野のサイトを狙っていたとみられる
- 同じサーバーには被害者のデータのほか、総当たり攻撃、Webシェルの設置、他の攻撃者のWebシェルの削除を行うスクリプトも置かれていた
- 約2か月前の前回版の報告では、完全に自動化された攻撃の流れは実環境で観測されていなかった
GTIGは、攻撃者にとってゼロデイを探すよりも、修正が公開済みの既知の脆弱性(n-day)を狙うほうが効率的になりうると指摘している。
取るべき対応
影響を受けるのは、インターネットに公開されたWebアプリケーションやCMSを運用しているすべての事業者と制作会社である。
- パッチ適用を急ぐ:報告では、8月下旬にゼロデイとして悪用された PaperCut Software の不具合について、公表から1日以内に研究者と Huntress Labs がLLMで動作する攻撃コードを作成している。GreyNoise が追跡したキャンペーンは公表の4日後に始まり、数百の組織に到達した。ある事例では侵入から数分でドメイン管理者権限に到達している。パッチ公開から数日のうちに悪用が始まる前提で適用計画を組み直したい
- 検証環境の露出を点検する:今回の枠組みは、インターネットに露出したステージングサーバー上で動いていた。本番以外の環境が外部から到達可能になっていないかを確認する
- AI開発ツールの設定ファイルを監視する:北朝鮮に関係するとみられる UNC6836 は、偽の採用担当者のプロフィールで北米・欧州の暗号資産関連組織に接触し、
.claude/settings.jsonを書き換えて Anthropic の Claude Code に SOMBERMEME というバックドアをダウンロードさせていた。一部のプロフィールには Google の SynthID の電子透かしが入っていた
このほか、米国の航空宇宙分野への侵入で多エージェント基盤の CAIRN が使われた例、8月下旬から10月上旬にかけてアジアの組織を調査するために PentAGI を改変した基盤が運用された例、商用の業者が Gemini API を使ってクラウド上の端末群から10万を超えるSNSアカウントを運用する基盤を構築していた例が報告されている。Google は Gemini の不正利用に関係するアカウントと資産を停止し、Google DeepMind は得られた知見を分類器の強化に使ったとしている。
