富士通、識別性能を低下させず、柔軟かつ容易に「画像識別AI」を修正する新技術を開発

　富士通株式会社は17日、画像に写っている対象が何であるかを識別する「画像識別AI」において、識別性能の低下なしに、柔軟かつ容易に修正する技術を開発したと発表した。

　画像識別AIは大量のパラメータで構成されているため、識別時のAI挙動を変えたい場合でも、人間が各パラメータの意味を解釈した上で変更することは困難だという。このため一般的には、大量データによる再学習が行われているものの、対象とする画像以外の識別において性能低下を引き起こす可能性があり、それが変更にあたっての課題になっているとのこと。

　そこで富士通では、大学共同利用機関法人 情報・システム研究機構 国立情報学研究所（NII）と共同で、識別対象の意図せぬ識別性能の低下を抑制しながら、画像識別AIを修正する技術を開発した。

　新技術では、正しく識別されるデータをAIに入力したときのAI内部の反応の大きさから、誤った識別のみに影響するパラメータ群の箇所を特定し、パラメータ値を最適化する。その際、ほかの対象の識別性能に影響をおよぼさずに、対象とする識別動作において理想的な識別結果との誤差を限りなく少なくするパラメータ値を探索することで、性能低下の抑制を実現したという。

　2022年9月に、1万枚以上の自動車画像のデータセットに対して、同技術の有効性検証を行ったところ、データセットを用いて構築したAIにおける特定の誤りに対し、性能低下を引き起こさずに修正できることを確認したほか、AIにとって未知のデータに対しても同様に有効性を確認したとのこと。

　富士通は、この技術の活用によって、AIの運用時にユーザーの要求に沿ったAIの更新が可能になることから、AIの高品質化やAI運用コストの削減が期待されるとしている。

AIの誤識別を安全に修正する技術の概要

　なお富士通では、AIの精度劣化を自動修復する技術「High Durability Learning」をはじめとしたAI品質技術の1つとして、2024年度中の実用化を目指して開発を進めており、今後は、社会インフラの映像監視や医療画像診断など高信頼性が求められる、さまざまな現場への適用に向けた実証実験を行う予定だ。