Anthropicが「AIワーム」を予告　「恐怖をあおる」との批判も

「安全」を掲げるAnthropicの成り立ち

　Anthropicはビジネスの計算の上でAIの危険性を叫んでいるのだろうか――。その答えのヒントになりそうな話がある。9月26日付のWall Street Journal（WSJ）は、Anthropicの背景にある思想的な潮流と、人的ネットワークを詳細にレポートしている。

　それによると、同社のAIリスクへの態度の源流は、2010年代に入って登場した「効果的利他主義（EA）」のコミュニティにあるという。EAは、エビデンスに基づいて、限られた資源で社会に最大の利益をもたらす方法を追求する社会運動だ。Amodei氏もこの思想に共鳴する若者の一人だった。

　そのEAで大きな影響力を持つ慈善運動家Holden Karnofsky氏が2013年にベイエリアに移った際、Amodei氏の家に同居した。そこで過ごした人物によると、その家には、のちのAnthropicの共同創業者7人の半数以上が暮らし、しばしば「地球規模の破滅的リスク」について語り合っていたという。

　WSJは、AIが人類を滅ぼしかねないと恐れる「いわゆる終末論者（doomers）」が、同社で影響力を保ち続けていると指摘する。現在、カリフォルニア州バークレーで最も高いオフィスビルに「Constellation」と呼ばれるコワーキングスペースがあり、Anthropic社員専用のスペースも設けられているという。ConstellationはEA系の団体の助成金を受けた非営利団体で、「大量死傷を伴う極端な事態」や「人類文明の制御の恒久的な喪失」といったAIリスクの低減をミッションに掲げる。

　古参社員の中には、AIが暴走した際の避難先として遠隔地の土地購入を検討している者もいるとWSJは伝える。Anthropicの広報担当者は同紙に対し、従業員は3500人を超え、さまざまな見解を持つと説明している。

　自社を「AIの安全性と研究の会社」とするAnthropicは、早ければ11月中にも上場すると報じられており、史上最大の評価額になりそうだ。Reutersが伝えた目論見書は、「信頼性が高く、信用でき、かつ安全なAIシステムを構築することは、私たち全員の責任であり、市場もそれを評価してくれると確信している」と記す。

　市場はどう評価するのだろう。