AIを作った者が自らへの縛りを求める　Anthropic CEOの異端の提言

「FAA型の安全規制」を提言

　Anthropicはこれまで、AIの透明性確保を優先する立場をとってきた。リスクの形がまだ見えていない段階で具体的な立法設計は難しいという考えからで、実際、透明性確保を目的とする州法レベルの立法も支援してきた。

　しかし今回のエッセイでAmodei氏は、「リスクはすでに現実のものになった」として、より深刻で拘束力ある規制を訴えている。その根拠とするのが同社の「Claude Mythos」の登場だ。「AIモデルがもはや世界的・国家的な戦略的重要性を持つツールであることを、疑いの余地なく証明した」とAmodei氏は記す。

　具体的な規制の仕組みとして、まず挙げるのがFAAモデルだ。「航空機と同様に、フロンティアAIモデルは技術的な試験と監査を義務付けられるべきであり、安全基準を満たさない場合は公衆安全への脅威として展開を阻止または撤回できるようにすべきだ」とAmodei氏は言う。

　規制対象の基準は、同時に公表した文書「Advanced AI Framework」で詳述した。「訓練に10の25乗FLOPを超える計算量を要し、かつ年間のAI関連収益が5億ドルを超える、または年間AI研究開発費が10億ドルを超える開発企業」だ。名前は挙げてないものの、OpenAI、Google、Meta、xAIそしてAnthropic自身がまず該当すると考えられる。