Anthropicが「AIワーム」を予告　「恐怖をあおる」との批判も

警告のたびに出る疑問

　Rocky Linuxの創設者でCIQのCEOを務めるGregory Kurtzer氏は、「実験は成功するよう設計されていた」とXに投稿した。同氏は、研究者側のテスト用の仕組みがAIを起動したこと、明示的に拡散を指示していたこと、侵入先を認証なしにしていたことなどを挙げ、「恐怖は証拠ではない」と批判した。

　Meta Superintelligence Lab（MSL）の研究者で、元ニューヨーク大助教授のRavid Shwartz-Ziv氏もXへの投稿で、研究の発表は同社のPRと位置づけた上で、「（これが）実世界で自律的に広がるAIワームの証拠か」と問い、「まだだ」としている。

　またThe Registerは「AI製品を売るのに、恐怖ほど効くものはない」と辛らつに評し、AIワーム報告を「まだ存在しない脅威」で終末論への恐怖をあおるものだと批判した。

　Anthropicは、AIの安全性について警告を繰り返してきた。危険性やリスクを扱う研究発表は、同社の公式サイトで確認できるだけでも2024年初めから続いている。最近では9月12日、CEOのDario Amodei氏が、自身のWebサイトで公開したエッセイで、「AIモデルの能力を向上させるペースを落とさねばならない」と主張した。

　だが、同社がAIの危険性を打ち出すほど、疑問の声が出てくる。

　エッセイから約2週間たった9月29日、ReutersがAnthropicのIPO（新規株式公開）目論見書の草案をスクープした。本文261ページのうち、リスクの記述は80ページに及び、事業説明の48ページよりはるかに多くあてていたという。Reutersは「AI技術から利益を得ようとしている企業の異例の警告」としている。

　この目論見書について、Los Angeles TimesのコラムニストMichael Hiltzik氏は9月30日付コラムで、なぜ目論見書に深刻な警告を盛り込んだのか、自身の推測として3つの可能性を挙げた。（1）終末的な恐怖が世間の意識に浸透している中では、恐怖を認める方が賢明である（2）自社製品の力を危険の誇示という形で売り込んでいる（3）SF的な主張で、投資家の目を短期的に直面している財務上の課題からそらす――というものだ。