ラック、生成AIを用いたWebシステムのセキュリティを診断する「生成AI活用システム リスク診断」

　株式会社ラックは20日、生成AIを利用するWebシステムのセキュリティを診断するサービス「生成AI活用システム リスク診断」を、同日より提供開始したと発表した。対話型AI機能を組み込んだWebシステムを、攻撃者の視点から診断し、特有のセキュリティ問題や悪用が想定されるリスクを特定するという。

　「生成AI活用システム リスク診断」は、生成AIを使ったシステムを対象に、特有の脆弱性が含まれていないかを評価し、改善点をレポートするサービス。対話型AIを入出力のインターフェイスとして自社サービスに組み込む際に発生する、「AIにより重要情報が漏えいしないか」、「高度化したAIに対する攻撃手法に対応できているか」といった不安を、専門家が第三者診断を実施することで解決するとした。

　なお脆弱性については、以下のような項目の評価が対象となる。

プロンプトインジェクション

システムの設定を回避して、モデルに学習されている機密情報やシステム情報を搾取できてしまう脆弱性

ジェイルブレイク

システムに設定されたポリシーを回避して、不適切なコンテンツ（攻撃的、または有害なコンテンツ）を回答できてしまう脆弱性

プロンプトリーク

システムの内部で設定されているプロンプトを搾取できてしまう脆弱性。システム内部のプロンプトは企業の知的財産として保護する必要がある

大規模言語モデル出力の改ざん

大規模言語モデル（Large Language Models：LLM）の出力を改ざんすることで、SQLインジェクションやクロスサイトスクリプティングなどの攻撃を誘発する脆弱性

プロンプトの大量入力によるサービス拒否

繰り返し大量のプロンプトを機械的に入力することで、システムが不安定になったり、大量のトークンを消費させ過剰な料金請求が発生してしまったりする脆弱性

　なお、生成AIシステムに特有の脆弱性評価に加えて、Webアプリケーションの安全性を攻撃者の視点から調査する「Webアプリケーション診断」や、クラウド環境の潜在的な設定ミスや脆弱性の見落としを発見・修正する「クラウドセキュリティ設定診断」などと組み合わせ、システム全体の脆弱性を点検することも可能とのことだ。