ニュース
AISI、AIシステムの開発者・提供者向けに「AIセーフティに関する評価観点ガイド」を公開
日米のAIガバナンスの相互運用性向上に向けた「クロスウォーク2」も公開
2024年9月19日 06:30
AIセーフティ・インスティテュート（以下、AISI）は18日、AIシステムの開発者や提供者がAIセーフティ評価を実施する際に参照できる基本的な考え方を提示するため、「AIセーフティに関する評価観点ガイド」を公開したと発表した。
AIに関連する技術の発展と社会全体への普及が急速に進み、生成AI、特に基盤モデルの登場によりイノベーションが加速する一方で、AIシステムの悪用や誤用、不正確な出力の懸念など、いわゆるAIセーフティについての関心が国内外で高まっていると説明。AIセーフティを確保し続けることは、AIが社会の持続的な発展に寄与するための前提であるとして、AISIではAIシステムの開発者や提供者がAIセーフティ評価を実施する際に参照できる基本的な考え方を提示する、AIセーフティに関する評価観点ガイドを公開した。
AIセーフティに関する評価観点ガイドでは、2024年4月に公表した「AI事業者ガイドライン」に加え、海外文献や関連ツールなどに関する調査を踏まえ、AIセーフティ評価の観点や想定され得るリスクの例、評価項目例、評価の実施者や評価実施時期に関する考え方、評価に関する手法の概要などを提示している。主な想定読者は、AI開発者・AI提供者、特に「開発・提供管理者」や「事業執行責任者」で、想定するシステムは大規模言語モデル（LLM）を構成要素とするAIシステム（LLMシステム）となる。
また同書では、AIセーフティの観点として、AI事業者ガイドライン「C.共通の指針」において各主体が取り組む事項とされているもののうち、「人間中心」「安全性」「公平性」「プライバシー保護」「セキュリティ確保」「透明性」を重要要素としている。さらに、これら6つの重要要素に関連するAIセーフティ評価の観点として、「有害情報の出力制御」「偽誤情報の出力・誘導の防止」「公平性と包摂性」「ハイリスク利用・目的外利用への対処」「プライバシー保護」「セキュリティ確保」「説明可能性」「ロバスト性」「データ品質」「検証可能性」の10項目を導出した。
評価の実施者は、主にAI開発およびAI提供における開発・提供管理者で、いずれの役割の者が実施するかは、AIシステムに関するライフサイクルによって異なるとしている。評価実施時期は、LLMシステムの開発・提供・利用フェーズにおいて合理的な範囲、適切なタイミングで繰り返し実施することとしている。
同書の5章では、評価に関する手法として技術的評価とマネジメント的評価を挙げ、技術的評価の概要としてツールを用いた対策の検証、ツール以外も取り入れたレッドチーミングによる検証などを概説し、6章では評価に際しての留意事項を示している。
AISIは、AIシステムを安全安心に利用するための評価への理解を促進することで、社会全体でのさらなるAI活用が進むことを期待するとしている。
また、AISIでは18日、日米のAIガバナンスの相互運用性向上に向けて、日本のAI事業者ガイドラインと、米NISTのAIリスクマネジメントフレームワーク（AI-RMF）の主要なコンセプトを比較対照した、「クロスウォーク2」を公開した。
AI事業者ガイドラインは、AIの安全安心な活用が促進されるよう、総務省と経済産業省が2024年4月に公開した、AIガバナンスの統一的な指針を示すガイドライン。AI-RMFは、米国商務省の国立標準技術研究所（NIST）が2023年1月に公開した、AIシステムの責任ある設計、開発、デプロイ、および使用の促進を支援するために設計されたフレームワーク。
AISIは2024年2月の設立以来、AI-RMFと日本のAI事業者ガイドラインの相互運用性を確認するため、NISTと共同でクロスウォーク（法律や規制、基準、およびフレームワークの規定をサブカテゴリにマッピングするもの）の作業を進めてきた。
AISIは2024年4月には、日米双方の文書について用語定義の比較を行い、「信頼できるAI」の7要素において類似性を整理した「クロスウォーク1」を公開した。その結果、用語定義は類似しているものの、文脈での使われ方を確認する必要があることから、AISIとNISTは続けて主要なコンセプトの対応関係を整理した。その結果、強調ポイントで若干の相違はあるものの、主要なコンセプトにも大きな差異はないことを確認し、今回クロスウォーク2として公開した。
クロスウォーク2では、AI-RMFのPlaybookで示されているトピックごとに、AI-RMFの対応する章番号とAI事業者ガイドラインの対応する章番号を並べて示した上で、それぞれ類似性と相違点について記載している。
クロスウォークは、今後日米両国でドキュメントを改定する際に役立つほか、日米でAIシステムを構築・利用する組織や人にとっても、日米のAIリスクマネジメントに関する相互運用の補助ツールとして役立つことが見込まれるとしている。
