NRIセキュア、「Alli LLM App Market」専用のAIセキュリティ対策サービスを提供

　NRIセキュアテクノロジーズ株式会社（以下、NRIセキュア）は24日、Allganize Japan（オルガナイズジャパン）株式会社（Allganize）のオールインワン生成AI・AIエージェント基盤「Alli LLM App Market」専用のAIセキュリティ対策支援サービスを提供開始すると発表した。

　Alli LLM App Marketは、生成AIと大規模言語モデル（LLM）を業務で活用するためのプラットフォームで、すぐに利用可能な業務特化型アプリケーション群を活用でき、ソースコードを記述することなく、生成AIを用いたアプリケーション開発やAIエージェントの構築を迅速に行えるという。

　こうしたプラットフォームを活用することなどにより、企業におけるAIシステム構築は以前より容易になってきたが、一方で、「プロンプトインジェクション攻撃によるセキュリティ侵害」「誤情報や偏ったコンテンツの生成による業務判断ミス」「機密情報の意図しない外部流出」といった、特有のリスクも生まれてきたとのこと。

　そこでNRIセキュアは、「Alli LLM App Market」専用のAIセキュリティ対策支援サービスをメニュー化し、企業が「Alli LLM App Market」を用いてAIシステムを構築する際に合わせて導入することで、より安全に生成AI・AIエージェントを活用できるように支援するとした。

　新サービスでは、既存の「AIセキュリティ診断サービス（AI Red Team）」と「AIセキュリティ監視サービス（AI Blue Team）」をカスタマイズし、システム構築時の「AIセキュリティ診断」と、運用段階における「AIセキュリティ監視」として提供する。

　このうち「AIセキュリティ診断（AI Red Team）」では、「Alli LLM App Market」の導入時に、生成AIに関するリスクに精通しているNRIセキュアの専門家が診断にあたり、AIシステム特有のセキュリティリスクを事前に特定して、より安全な構築を支援する。構築段階の時点でセキュリティ対策をトータルで検討することにより、LLM Opsも含めたシステム全体の管理・運用コストの最適化が期待できるとした。

　一方の「AIセキュリティ監視（AI Blue Team）」では、AIシステムにNRIセキュアの検知APIを連携することで、継続的なセキュリティ監視サービスを提供する。利用者が入力した段階で攻撃を検知し、AIモデルで生成された出力内容を検証するほか、利用者による不適切な入出力の検知とブロックにも対応した。こうした仕組みにより、サイバー攻撃による被害の拡大を防止するとともに、AIシステムから出力される情報の機密性を保護する、高度なセキュリティ対策を継続的に実施できるとのことだ。

　なお「AIセキュリティ診断」は、企業が「Alli LLM App Market」を用いて、オンプレミスまたはプライベートクラウド環境にAIシステムを構築する際に提供する。一方の「AIセキュリティ監視」は、利用環境を問わずに利用できる。