三菱総研DCSとGMOサイバーセキュリティ byイエラエ、生成AIを利用するシステム向けのセキュリティ診断サービスを提供

　三菱総研DCS株式会社とGMOサイバーセキュリティ byイエラエ株式会社は11月28日、生成AI活用におけるセキュリティ強化を図るため協業すると発表した。その取り組みとして、三菱総研DCSでは生成AIを利用するシステム向けのセキュリティ診断サービス「生成AI利用システムセキュリティ診断」の提供開始した。

　生成AI利用システムセキュリティ診断は、GPTなどのLLMを利用して構築したアプリケーションに対して、敵対的プロンプト（Adversarial Prompting）を用いた疑似攻撃を行い、アプリケーションに内在するセキュリティリスクを調査するサービス。GMOサイバーセキュリティ byイエラエが提供する、GPTなどの大規模言語モデル（LLM）対応の「LLMセキュリティ診断」を用いた初のサービスになるという。

　三菱総研DCSでは、生成AIの普及が進む一方で、攻撃者がAIに対して不正な命令を入力することで、不適切な出力の生成や、機密情報の窃取など、新たなセキュリティリスクが発生していると説明。サービスはこうしたリスクに対応したセキュリティ診断を行い、診断結果レポートを提供する。

　診断プランは、顧客の予算やアプリケーションのセキュリティレベルに合わせ、「ライトプラン」「ベーシックプラン」「アドバンスドプラン」の3種類を用意。また、調査対象のアプリケーションごとにカスタマイズした診断の提供にも対応する。

　対応可能な言語モデルは、GPT-3.5、GPT-4、Gemini、Claude3、Claude 3.5 Sonnetなど。

　両社は今回の協業をきっかけに、AI技術の進展に伴い発生する新たなセキュリティリスクへの対策を図り、顧客の生成AI活用を支援すると説明。他分野でも連携を広げ、増大するサイバーリスクに対して柔軟に対応できる環境を創出することで、安心という価値を提供していくとしている。