GMOサイバーセキュリティ byイエラエ、実攻撃手法を用いてAIエージェントのリスクを可視化するサービス

　GMOサイバーセキュリティ byイエラエ株式会社は27日、企業が業務に導入するAIエージェント、チャットボット、RAG（検索拡張生成）などを対象に、ホワイトハッカーが実際の攻撃者と同等の手法でペネトレーションテストを実施する「AIエージェントペネトレーションテスト」を提供開始したと発表した。

　「AIエージェントペネトレーションテスト」は、企業内で利用されるAIエージェント、チャットボット、RAGなどを対象に、サイバー攻撃に悪用されるリスクを攻撃者と同等の手法で検証するサービス。ホワイトハッカーが企業の業務フローやシステムの権限設定、外部アプリケーションとの連携などを踏まえて、AIが扱うデータや権限、外部システムとの連携を含む業務フロー全体を検証し、情報漏えい・不正操作・権限逸脱といったリスクを具体的に可視化する。あわせて、実践的な対策も提案するとのこと。

　実施にあたっては、まず、企業のAI利用状況をホワイトハッカーがヒアリングし、オリジナルのテストシナリオを作成。企業が利用しているテスト用の社員向け業務用PCを借りて、実際の攻撃者と同じ手法で、業務利用中のAIに内在するリスクを検証するとした。検証では、LLM（大規模言語モデル）に対するプロンプトインジェクションの動作検証のほか、AIが持つシステムの権限や、AIが取り扱うことを許可されたデータ、AIと連携するシステムを対象とし、情報漏えいや不正操作に直結する具体的なリスクを可視化する。

　また、AIセーフティ・インスティテュート（AISI）発行の「AIセーフティに関するレッドチーミング手法ガイド」に基づいた検証にも対応しており、業界標準に沿ったリスク評価を行える。

　なお、調査対象の例としては、Microsoft 365 Copilot/Azure OpenAIなどのエンタープライズAIサービス、業務自動化・社内オペレーション支援を目的としたAIエージェント、社内ナレッジ検索・回答生成を行うRAGシステム、チャットボット、社内ツール連携（ファイル、チケット、CRM、ワークフロー等）を含むAI機能などを挙げている。