マクニカ、AIモデルや学習データに含まれるリスクを洗い出すセキュリティプラットフォーム「DeepKeep」を提供

　株式会社マクニカは17日、イスラエルのDeepKeepと販売代理店契約を締結し、同社のAI/LLMセキュリティプラットフォームの取り扱いを開始すると発表した。

　DeepKeepのAIネイティブSecurity＆Trustプラットフォームは、AI、LLM、コンピュータービジョンモデルに関する、セキュリティリスクや推論の信頼性の課題を包括的に解消する。具体的には、AIを安全・安心に使うための、リスクアセスメント、予防、検知、緩和の4つの機能を備える。

　リスクアセスメント機能は、自動化されたペネトレーションテストを実施。モデル・データをアップロードし、検査項目を指定するだけの簡単設定で、脆弱性の評価、ポイズニングとバックドアの検出、発見した課題に対して優先順位を付け、推奨事項の提示を行う。

　予防機能は、課題に対するセキュリティ強化策を提示し、発見した課題に対処するための前処理・後処理、AIモデルの修復提案を行う。

　検知機能は、モデル性能を損なわない検知ソリューションとして、リアルタイムの検知、事後の検知、異常値などの検出を行う。

　緩和機能は、AIファイアウォールによる緩和策を提供し、検知時のアクセス制限、リアルタイムのアラート発報、セキュリティオペレーションセンターとの連携を行う。

　発見したリスクは優先度を付けて表示されるため、リスク管理チームは迅速に対応策を検討し、必要な場合には即座に対策を講じられる。

　マクニカでは、AI TRiSM（Trust, Risk and Security Management）と呼ばれる領域に対し、brighter AI（次世代匿名加工技術）、PrivateAI（個人情報匿名化）などのラインアップをそろえ、顧客の要望や課題に沿ったソリューションを提供しており、さらにDeepKeepを加えることで、AIのリスクに対応し、AIの信頼性を高めるための取り組みをさらに進めていくとしている。