AIエージェント同士が“結託”　マルチエージェント環境の新たな脅威

業界団体や政府機関も警鐘を鳴らすが、根本解決はなお先

　マルチエージェントAIのセキュリティ問題は、現在「MASEC（Multi-Agent Security）」といった名称で研究の重要分野となっている。同時に運用上の問題としても関心を集めるようになった。

　クラウド業界団体Cloud Security Alliance（CSA）は今年3月23日付の報告で、古典的なセキュリティ問題「代理人の混同（Confused Deputy）」がエージェントの普及で再浮上していると分析。エージェントが持つ権限がそっくり悪用されるリスクや、マルチエージェント環境で1つのエージェントの侵害が次々と拡散していくリスクがあると警告した。

　4月には英語圏5カ国の情報同盟「Five Eyes」のサイバーセキュリティ担当機関が、エージェントのセキュリティリスクをまとめた文書を公開。マルチエージェント下では、勝手にサブエージェントを生成して処理を委譲する連鎖を起こすリスクがあることなどを警告している。

　しかし、同じ4月に英・米・独・イスラエルなどの24人の研究者が発表した研究「Open Challenges in Multi-Agent Security」（改訂版）は、ゼロトラスト、TEE（Trusted Execution Environment）、サンドボックス化といった最も進んだ技術的対策を組み合わせても、隠し通信路には対処できず、それを実用的なシステムに統合する方法自体がまだ分かっていないと指摘している。

　さらに、複数のエージェントが相互作用する場面では「個々には安全なエージェントであっても、組み合わされることで安全でないシステムを生み出し得る」と述べ、新しいリスク管理の必要性を訴えている。CAIFが指摘したときから、状況はあまり変わっていないようだ。

　CAIFはGoogle DeepMind、英国先端研究発明機構（ARIA）などとともに、この空白を埋めるための共同研究を公募している。1件当たり最大100万ドルの助成をするもので応募は8月8日に締め切られ、今秋に採択通知を出す予定だ。つまり、研究成果が出るのはなお先のことだ。