週刊海外テックWatch

広がるオープンソースAI攻撃ツール 1社あたり数十ドルの費用で高速攻撃

 多くのオープンソースのAIハッキングツールが既に使われていることが、セキュリティ企業の調査で分かってきた。韓国の銀行への攻撃で使われたAIペンテスト(模擬攻撃)ツール「ARTEX」は、一例にすぎない。そして、Googleの脅威分析部門は、人の判断を介さない高度で洗練された完全自律型攻撃の登場まで3~6カ月とみている。AI攻撃の実態と、防衛側が取るべき対応は――。

AIツールの放置された管理画面

 新興AIセキュリティ企業NorForgeは、認証なしの公開状態でネット上に放置されているオープンソースのAIツール「Cairn」の操作画面を調査した。Cairnは、複数のAIエージェントを連携させてタスクを完遂できるツールで、自律型のペンテストツールとしても使える。

 同社の10月19日の報告は、20以上の操作画面について悪意ある活動に使われていた可能性が高いとしている。最も大きいグループは14の操作画面で1100を超える攻撃プロジェクトを稼働。米国、カナダ、オーストラリア、日本の4カ国の通販サイトの弱点を探すよう指示していた。

 また、完了したタスクに記載されていた企業サイトの1件を調べたところ、ファイルをアップロードできるWebシェルが実際に応答したという。

 ARTEXやCairnだけではない。セキュリティ企業GitGuardianの11月9日の報告によると、AIを利用して攻撃を自動化できるオープンソースのフレームワークは約45あった。同社はこれらを、用途や設計の異なる5系統と、その他の派生版に分類している。

 5つの系統とは、「ネットワーク・キルチェーン」(情報収集から侵入後の操作までを通して行うもの)、「WebアプリケーションとAPI」(Webの弱点を探すもの)、「C2統合型」(侵入先を遠隔操作する指令基盤『C2』に組み込むもの)、「ハーネス」(既存の汎用AIエージェントに攻撃の手順を足すもの)、そして「研究用プロトタイプ」だ。

 GitGuardianは調査の過程で、ツールの管理画面がネット上で公開状態になっていた例を多数確認したとしている。NorForgeが調べたのも、そうした公開状態の操作画面だった。