オープンウエイトは審査対象外　米AI安全審査に残る奇妙な線引き

議論の内幕

　ホワイトハウスでは、どのような議論があったのか――。ワシントンDCの政府業務専門メディアGovernment Executiveによると、8月4日の協議で示された内容は、政府側が一方的に押しつけたものではなかったという。

　7月下旬、OpenAI、Anthropic、Googleの3社が共同ドラフトを政府に提出し、その後すり合わせを重ねていた。3社はモデルのA/Bテストを継続できるよう主張し、ホワイトハウス側もこれを受け入れたとGovernment Executiveは関係者の証言を伝えている。

　企業にとって枠組みを受け入れる見返りは小さくない。30日前のモデルの提出は、連邦資金を受け取る前提となり、それには540億ドル超とされる国防総省のAI関連予算も含まれる。さらに6月の大統領令は、外国勢力による米国の知的財産の利用・窃取から保護する方針も掲げている。

　また議論の中では、オープンウエイトモデルが主要な争点になったという。元ホワイトハウス高官と元国防高官によると、Anthropicはオープンウエイトモデルのセキュリティ問題に対処するため、より強い文言を枠組みに盛り込むよう主張したが、実現しなかった。他社はオープンウエイトモデルに対して支持的な姿勢を示している。Anthropicはこの点についてコメントを拒否したという。

　政府は審査の具体的な実施方法などは説明していないが、実際のところ中身がまだ固まっていないのだという。科学技術政策局（OSTP）は審査基準を策定中、NISTやCISAがどうテストを設計・実施するかも未定だとGovernment Executiveは伝えている。

　一方で、検討の真っ最中に起こったOpenAIのAIエージェントによるHugging Faceシステム攻撃事件は、問題の複雑さを見せつける結果となった。同社は攻撃ログの分析に商用API経由のフロンティアモデルを使おうとしたが、セーフティガードに拒否された。このため中国製のオープンウエイトモデルGLM-5.2を使用して分析せざるを得なかった。

　「クローズドだから安全、オープンだから危険」という単純な図式は、ここでは成り立たないのだ。