エージェントは「スイスチーズ」の穴を抜けた　NVIDIAの新基盤への期待と限界

　NVIDIAがAIエージェントを対象とするセキュリティプラットフォーム「Open Agent Safety Platform」を発表した。オープンソースのアクセス制限ソフトと、ハードウェアからの監視層を組み合わせ、脱出を図るエージェントを検知して強制停止するという。封じ込めをすり抜けるエージェントが相次ぐなか、エージェントに「振る舞いを守らせる」のではなく「外側で止める」方式は、決定打になるのか――。

ハードウェアからエージェントの振る舞いを監視

　「AIが社会にもたらす計り知れない可能性は、安全性の課題を解決して初めて実現される。安全性とセキュリティを確保するには、フルスタックのエンジニアリングが不可欠だ」。Jensen Huang CEOは9月28日のプレスリリースで、こう述べて、Open Agent Safety Platform（OASP）を紹介している。

　OASPは「OpenShell」と「NVIDIA Sentry」の2つの柱からなるセキュリティプラットフォームだ。OpenShellは、エージェントの動作を記録してポリシーを強制するオープンソースの実行環境。Sentryは、「BlueField-4」と呼ぶ独自ハードウェアDPU（データ処理装置）上で動く監視ソフトウェアで、別系統で実行されているためエージェントからは見えないという。エージェントの境界逸脱を検知すると、隔離して強制停止させる仕組みだ。

　NVIDIAは同日付の技術ブログで、これまでのエージェントの脱出事例に触れながら、「こうした状況では、エージェントに自らの振る舞いを完全に律することは期待できない」と結論付けている。Huang氏はCNBCの番組に出演して、OASPを「エージェント向けのブラウザー」にたとえた。つまり、仕事に必要なものにしかアクセスさせない封じ込めの仕組みだという。

　専門家のOASPへの評価は好意的なものが多いようだ。Gartnerのシニアディレクターアナリスト、Lauren Kornutick氏は「ハードウェアレベルで、興味深い視点から問題を解決している。正しい方向への大きな一歩」とCSO Onlineに述べている。Tribeca SoftechのチーフストラテジーオフィサーAman Mahapatra氏も同誌に、知覚できない層であればエージェントからの説得も推論も通じないとして、その有効性を評価している。

　Dickson Researchの主席アナリストFrank Dickson氏は、業界は過去2年間、エージェントに「振る舞いを守らせる」ことで安全を確保しようとしてきたが、それは「囚人に自分の独房の鍵をかけさせる」ようなもので、無理なことだったと指摘する。外側で強制するのが筋であり、「本格的なエージェントプラットフォームなら、全てこの設計に追随せざるを得ないだろう」とする。