神戸デジタルラボ、AIシステム特有のリスクを検査・分析するセキュリティ診断サービスを提供

　株式会社神戸デジタル・ラボ（以下、KDL）は12日、生成AIを活用したWebアプリケーションを対象に、AI特有のリスクを検査・分析する「AIシステムのセキュリティ診断サービス」を提供開始すると発表した。

　「AIシステムのセキュリティ診断サービス」は、ユーザー入力を基にしたチャット機能や自動応答機能など、大規模言語モデル（LLM）を組み込んだWebアプリケーションを対象に、AI機能に起因する脆弱性を診断するサービス。万一、問題点が見つかった場合は、不適切な点を迅速に改修することで、AIを利用する上でのリスクを低減できるという。

　サービスでは、AIモデルへの直接的なプロンプト送信、およびWebアプリケーションの操作を通じてリスクの有無を検査する。具体的には、意図的に特殊な質問や命令を送ることで想定外の動作が発生しないか、機密情報や認証情報などが意図せず出力されてしまわないか、外部連携している場合には、APIや外部ツール経由での不正利用リスクがないか――といった点を確認するとした。

　なお、KDLでは、セキュリティサービスの提供だけでなく、生成AIを組み込んだシステムや業務支援アプリケーションの開発も数多く手がけているため、セキュリティの専門知識と開発現場で培ったAIシステム構築のノウハウを組み合わせ、開発チームが取り組みやすい形で改善提案を行える点を、同社のサービスを利用するメリットとして説明している。