ニュース
パロアルト、「AIのセキュアな利用」「脅威へのカウンター」「運用簡素化」の3戦略を発表
「AI時代のAIセキュリティ戦略」について説明
2024年10月7日 06:30
パロアルトネットワークス株式会社は4日、AIを使う側・作る側の双方が抱える漠然としたAI活用に対する不安感を払拭する安心・安全なセキュリティにフォーカスし、完全自律型・リアルタイムのセキュリティとして世界で推進している「AI時代のAIセキュリティ戦略～Precision AI（高精度AI）」について記者説明会を開催した。
AI技術の急速な進化によりセキュリティ業界が転換期を迎えるなかで、同社ではAI時代に向けたセキュリティ戦略として「Securing AI by Design」、「Countering AI with Precision AI」、「Simplifying Security by AI」の3本柱を軸に展開しているという。
パロアルトネットワークス Business Principal, Platform GTMの和田一寿氏は、「『Securing AI by Design』は、AIをセキュアに利用していくための戦略。『Countering AI with Precision AI』は、AIで進化したサイバー脅威へのカウンターをとるための戦略。そして、『Simplifying Security by AI』は、AI技術によってセキュリティ運用をシンプルにするための戦略となる」と説明する。
1つ目の戦略「Securing AI by Design」は、従業員が生成AIをセキュアに利用するためのソリューションと、組織がAIアプリをセキュアに構築するためのソリューションの2つに分かれている。まず、従業員が生成AIを利用する際のセキュリティリスクについて和田氏は、「組織が認めていないシャドーAIの利用が広がり、従業員が知らず知らずのうちに機密データをインプットしてしまうリスクが高まっている。また、インプットされたデータが学習、二次利用されて情報漏えいにつながる可能性もある」と指摘する。
これに対して同社では「AI Access Security」を提供している。同ソリューションは、生成AIの利用状況をリアルタイムに可視化し、「誰」が「どの」生成AIを利用しているかを把握することができる。また、アクセス制御機能によって、非認可生成AIのブロックやセキュリティポリシーの順守、脅威の排除などを行う。さらに、どんなデータ、情報、IPが共有されているかを監視し、包括的なデータ保護を実現する。
次に、組織がAIアプリを開発する際のリスクについて、パロアルトネットワークス クラウドエンゲージメントディレクターの伊藤悠紀夫氏は、「組織のCISO（Chief Information Security Officer）を対象に、AIアプリ開発における懸念事項を聞いたところ、『クラウド上でどのAIモデルを利用しているのか』、『誰がAIエコシステムにアクセスしているのか』、『どのようにLLMやAIアプリを保護すればよいのか』という3点が上位に挙がった。AIアプリは、新たなアタックサーフェイスとして狙われるリスクが高まっている」とし、これに対するソリューションとして「AI Security Posture Management」（以下、AI-SPM）と「AI-Runtime」を紹介した。
「AI-SPM」は、AIモデル、生成AI、AIサプライチェーン全体を可視化し、AIアプリのセキュリティを確保するソリューション。主な機能として、AIアプリで利用されているAIモデルや、学習・ファインチューニングに利用されているデータソースを特定するとともに、機密情報や各種法規制に関わるデータを識別して可視化する。また、AIソフトのサプライチェーンに関する脆弱性、およびモデル設定ミスや関連クラウドリソースを調査し、リスク分析を行う。さらに、プロンプトの入出力をモニタリングして不正利用や機密情報漏えいをチェック。プロンプトインジェクションや認証パイパスする利用者など、怪しい振る舞いをリアルタイムに検知し、AIモデルやAIアプリを通じたデータ漏えいを防止する。
「AI-Runtime」は、エンタープライズ向けAIアプリを包括的に保護するソリューション。AIエコシステムのランタイムリスクの露出を継続的に監視し、AI特有の攻撃や基礎的な攻撃からモデル、データ、アプリを保護する。主な機能として、AIモデルの保護では、15種類の間接的および直接的なプロンプトインジェクションと難読化を遮断。AIモデルを狙ったDoS攻撃を阻止する。AIデータの保護では、1000を超える定義済みデータパターンを使用し、AIモデルとの間でのデータ漏えいを防止する。AIアプリの保護では、すべてのアプリに対するネットワークや基盤へのAI固有の攻撃を防止。Webベースの攻撃（悪意のあるURL）からの保護能力を40％向上する。さらに、99％のマルウェア検出精度を通じてAIワークロードを悪意のあるコードの実行から保護する。
2つ目の戦略「Countering AI with Precision AI」について和田氏は、「AIによってサイバー脅威の攻撃対象数が拡大し、攻撃から数日で情報が暴露されてしまうケースも増えている。また、ほとんどのサイバー脅威がゼロデイ攻撃になりつつある。このような敵対的AIへのカウンターとして、当社では機械学習、ディープラーニング、生成AIを組み合わせた『Precision AI』をすべてのプラットフォームに搭載している。これにより、コアセキュリティサービスのゼロトラストプラットフォーム『Strata』では、通信に潜むゼロデイ攻撃と脅威を阻止。CODE TO CLOUDプラットフォーム『Prisma Cloud』では、クラウドの問題を特定し修復。AI-DRIVEN SOCプラットフォーム『Cortex』では、ゼロデイ脅威をリアルタイムに検出、調査、対応している」と説明した。
例えば、Precision AIを搭載したサンドボックス「Advanced WildFire」では、ゼロデイマルウェアを3～5秒で解析することが可能で、1日に46億の新規イベントを解析し、230万の新規もしくはユニークな攻撃を特定、インラインで113億の攻撃をブロックしているという。また、SOC自動化ツール「XSIAM」では、1日590億のログイベントからAI分析解析によって2万6000のアラートを検出。さらに、「XSIAM」によるグルーピング、除外、重複排除で75インシデントまで絞り込み、プレイブックによる完全または部分的での自動対応を実現している。
3つ目の戦略「Simplifying Security by AI」では、セキュリティ運用をシンプルにするためのAIソリューションを提供する。パロアルトネットワークス ソリューション技術本部 Cortex技術部 部長の室井俊彦氏は、「当社のセキュリティ運用プラットフォーム『Cortex』では、AIによる独自の機械学習アルゴリズムで、従来のルールベースでは見逃しがちなパターンや動作を特定、対応範囲を向上し、誤検知を減らして精度を維持する。また、1000以上のサードパーティー製品と連携しており、5000以上の検出ルール、2000以上の機械学習モデルに対応。SOCに必要なクラウドセキュリティ機能を1つに統合し、全体のSOC運用を可視化することができる」と述べた。
セキュリティ運用を支援する新たなツールとして、Precision AIを搭載した次世代アシスタント「Copilot」を、「Strata」「Prisma Cloud」「Cortex」の全プラットフォームに組み込んでいるという。「Copilot」では、各プラットフォームにガイド付きの自動化と実用的な専門知識を提供し、自然言語による対話でインサイトへの即時アクセスを可能にする。これによって、セキュリティチームの生産性を大幅に向上する。室井氏は、「現在は、『基本情報の質問に答える』『製品内クエリを生成する』『軽微なタスクを実行する』など部分的な支援となっているが、5年以内に、すべての質問への正確な回答やほとんどのアクションの自動化など完全な支援を実現し、将来的には自律型のアシスタントへと進化させていく」との考えを示した。