KDDI、AIに関するセキュリティ情報を発信する「AIセキュリティポータル」を公開

　KDDI株式会社と株式会社KDDI総合研究所は26日、大規模言語モデル（以下、LLM）を利用した新しい分類技術を開発・導入し、AIのセキュリティに関する情報を一元化して発信するポータルサイト「AIセキュリティポータル」を公開した。

　KDDIとKDDI総合研究所は、「KDDIグループAI開発・利活用原則」を踏まえ、AIのセキュリティに関する研究開発を進めており、AIセキュリティポータルでは、AI自体への攻撃や防御手法だけでなく、人や社会にもたらす影響とその対策となる技術について、ウェブ上の最新情報を整理・分類、一元化し、提供している。

「AIセキュリティポータル」のイメージ

　サイトでは、AIのセキュリティに関する全体像、個々の解説記事、文献情報、ニュースやイベント情報、関連サイトといった、AIのセキュリティに関する情報を包括的に発信している。利用者はこのサイトを起点として、AIのセキュリティに関する最新情報を得られる。

　KDDI総合研究所は、AIのセキュリティに関する情報を集約し提供するため、ウェブ上にあるAIのセキュリティに関する情報を、知識・技術の体系化により効率的に収集、整理できる知識集約環境を構築した。

　また、AI自体への攻撃や防御手法（情報システム的側面）だけではなく、これまでAIのセキュリティとの関係性が体系的に整理されていなかった、プライバシー侵害や著作権などの権利侵害（外部作用的側面）など、AIが攻撃・悪用された結果によりAIが社会や人にもたらすネガティブな影響の要素の調査研究を行った。この結果をもとに、AIのセキュリティ情報の関連性を整理した、AIのセキュリティマップを作成した。

　AIが攻撃・悪用された結果によるネガティブな影響を体系的に整理しているため、AIへの攻撃が人や社会に与える影響範囲を知ることができ、対策の検討に寄与する。

AIのセキュリティマップの概略

　さらに、ウェブ上にあるAIのセキュリティに関する膨大な文献情報の分類のために、LLMを利用した新しい分類技術を開発し、導入している。この技術は、ウェブ上に日々公開される論文などの文献を分かりやすく整理するため、文献に適切なラベルを自動的に付与して分類する。これにより、これまで整理されていなかった最新のAIのセキュリティ情報を整理・分類でき、新しく出た文献もデータベースに随時蓄積されることで、利用者が求める最新情報に簡単にアクセスできるようになる。

サイトの仕組み

　KDDIとKDDI総合研究所は、今後も社会全体に向け、AIのセキュリティの情報提供や注意喚起、リスク対策の普及啓発を推進していくとしている。

　なお、同サイトは、国立研究開発法人科学技術振興機構が進める経済安全保障重要技術育成プログラム（K Program）「人工知能（AI）が浸透するデータ駆動型の経済社会に必要なAIセキュリティ技術の確立」における、研究開発課題「安心安全なAI利活用の為の知識・技術の体系化と知識集約環境構築」により実施した、研究開発の成果の一つとなる。この成果により、最新のAIセキュリティの技術・知識を包括的かつ迅速に体系化した上で、高精度の自動収集・分類を通じた最適なリスクコミュニケーション手法を確立でき、研究開発構想が目標とする、AIのセキュリティに関する必要な知見蓄積や知識・技術体系の整理・獲得の実現に寄与するとしている。