AIを作った者が自らへの縛りを求める　Anthropic CEOの異端の提言

　AIを開発する当事者が、自らを縛るルールを求めている。Anthropicの共同創業者でCEOのDario Amodei氏が6月10日、包括的なAI規制を求める政策提言エッセイを公開した。「AIは、核兵器が地政学のゲームボードを塗り替えたように、政策環境を作り替える可能性がある」と言い切り、米連邦航空局（FAA）型の安全審査制度の導入など具体的な枠組みを提示した。規制を嫌う産業界の論理からすれば異端の行動だ。しかし、そこから事態は思わぬ方向へ進んだ。

創業5年で「世界最強の企業」に、Anthropicの異様な存在感

　「Anthropicは世界で最もパワフルな会社かもしれない」。作家で投資家で、シンクタンクProgress Network at New Americaの創設者でもあるZachary Karabell氏は、6月8日付のWashington Postへの寄稿で、こう述べている。その根拠として以下の3点を挙げる。

　一つ目は米国防総省との対立だ。Anthropicは自律型兵器や国内大規模監視へのClaudeの使用を認めることを拒否し、「安全保障上のサプライチェーンリスク」という異例の指定を受けた。通常であれば企業にとって致命的な措置だが、Karabell氏は「政府の方が折れざるを得ないかもしれない」と記す。大手防衛請負業者のPalantirがAnthropicとの対立にもかかわらずClaudeの使用を続けていることがその証拠だという。

　二つ目はバチカンだ。5月下旬、ローマ教皇Leo XIV世が教書を発表したのに続き、共同創業者のChristopher Olah氏がAI倫理について同じ壇上でスピーチした。創業5年のスタートアップの創業者が、10億人以上を代表する2000年の歴史を持つ教会のトップと舞台を共にしたという事実が、Anthropicの異例の存在感を象徴しているとKarabell氏は記す。

　三つ目は、フロンティアモデル「Claude Mythos（preview）」を危険すぎるとして一般公開しなかった判断だ。Karabell氏は同社が「核エネルギーと核兵器のような新しい技術の歴史を理解している」証拠と位置付ける。

　そのAnthropicのCEOが公表したエッセイは「Policy on the AI Exponential（AIの指数関数的発展に関するポリシー）」と題し、「規制と公共の安全」「マクロ経済と税制」「AIの正の影響の加速」「国家権力と市民的自由」「民主主義国家によるリーダーシップ確保」という5つの政策領域を扱っている。