日本IBM、AIの安全性や有用性・公平性を診断し改善提案などを行う「IBM ML品質診断サービス」

　日本アイ・ビー・エム株式会社（以下、日本IBM）は21日、AIの安全性や有用性、公平性を診断し、課題や改善策を提示するサービス「IBM ML品質診断サービス」を提供すると発表した。

　「IBM ML品質診断サービス」は、AIの本格展開時に求められる機械学習（ML）システムとしての品質を、安全性や有用性、公平性といった観点から診断するサービス。あわせて、課題や改善点を提示し、利用者が安心して使用できる品質の高いAIを構築するための、管理項目や方向性を提案するという。

　サービスでは、まず、AIを本格展開する際に求められる品質と管理項目を明確にし、診断フレームワークを使って、開発段階あるいは運用段階にあるAIの品質を、網羅的に可視化する。続いて、機械学習システムの予測性能、データの量や質、プログラムなどのシステム面に加え、組織、プロセス、ツールなどの観点からも診断結果を提示し、課題点や改善点、実施すべき品質管理項目と今後の方向性を低減するとした。

　なお診断にあたっては、日本IBMのコンサルタントならびにデータサイエンティストが、国立研究開発法人新エネルギー・産業技術総合開発機構と国立研究開発法人 産業技術総合研究所（産総研）が策定した「機械学習品質マネジメントガイドライン」に基づいて開発した、独自の診断フレームワークを活用する。

　このガイドラインは、機械学習を用いたAIシステムの品質を安全、安心に管理するために、あるべき品質の定義や管理項目を体系化したもので、日本IBMは機械学習品質マネジメント検討委員の一員として策定に協力してきたとのこと。今回のサービスでは、検討委員としてのガイドラインの知識と、IBMが全世界で培ってきたAIに関する知見、最新の技術動向を考慮して診断を行うとしている。