Anthropicが「AIワーム」を予告　「恐怖をあおる」との批判も

　AIによるサイバー攻撃への緊張が高まる中、Anthropicが「AIワーム」の出現が近いとの研究結果を発表した。ただでさえ厄介なワームが、自律的に自己複製して拡散してゆくとなると、大きな脅威だ。しかし、研究には実験条件への疑問があり、「恐怖をあおる」との批判も噴き出した。AnthropicのAIリスクへの警鐘には、このところ疑問を投げかける声が相次いでいる。AIリスク警告は同社の戦略なのか――。

AIワームが数カ月以内に出現するかも

　AnthropicのFrontier Red Teamは10月12日、自己複製してIoT機器のネットワーク上で増殖する「AIワーム」の新しい研究結果を発表した。データセンターを必要とせずに低スペックなハードウェア上で動作する「推論環境の構築」を実証したものだ。

　推論環境の構築とは、AIが未知のハードウェア上で自分を動作させる準備を、人間の手を借りずに自力で整えることを言う。自己増殖の前提となるものだ。

　実験では、4GBのメモリーを搭載したAndroid TVボックス15台に、260億パラメータの小型AIモデルを分散させ、1語出すのに数秒かかる環境で動かした。別の簡略化した実験では、中国Z.aiの「GLM-5.2」を使ったワームが、認証なしで開いていたポートを経由して次の機器に「Llama3.1-8B」を立ち上げた。

　同社は、推論環境の立ち上げに必要な時間を、モデルの大きさによって1日～6日と試算している。それでもモデルの進化を考えれば、数カ月後には、AIが人の手を借りずに機器から機器へ自らをコピーできるようになるかもしれないとする。ただ同時に、おおまかな推定であり、簡略化した実験は現実の成功率の上限だと断っている。

　AIワームには、先行研究がある。今年5月に非営利AI研究組織Palisade Researchが、6月にはトロント大の研究チームが、AIワームの動きを再現する実験結果を発表しているが、どちらもモデルの推論はGPU搭載機が担っていた。Anthropicは、GPUなしの小さな機器だけでAIワームが成り立つことを探った。

　ワームは、2017年に世界150カ国超に甚大な被害をもたらした「WannaCry」のように極めて危険な存在だ。それがAIでアップグレードされるとしたら、悪夢のような状況になるだろう。

　しかし、Anthropicの実験の条件については、専門家から疑問視する声が出ている。