ニュース
富士通研究所と北海道大学、望む結果までの手順を導くことができる「説明可能なAI」を開発
2021年2月4日 12:17
株式会社富士通研究所と国立大学法人北海道大学（以下、北海道大学）は4日、AIが自動判断した結果を基に、望む結果を得るために必要な手順を自動で提示できる技術を世界で初めて開発したと発表した。
富士通研究所では、技術を開発した背景として、深層学習（ディープラーニング）技術においては、大量のデータに基づいたさまざまな判断を予測モデルと呼ばれる一種のブラックボックス的な規則を用いて自動的に行っているが、今後、社会の重要な判断や提案をAIが担うためには、AIシステムの透明性と信頼性の担保が課題となってきていると説明。
たとえば、健康診断などにおいて、体重や筋肉量などのデータを基に病気になるリスクの高低を、AIによって判断することが可能になっているが、リスクの高低に関する判断結果に加えて、判断の根拠となった属性を提示する「説明可能なAI」が注目されているという。AIは、入力データの属性を基に健康リスクが高いと判定しているため、健康リスクが低いという望む判断結果を得るためには、これらの属性の値を変えればよいと言える。
AIによる自動判断において、望む結果を得るためには、変更が必要な属性を提示するだけでなく、その変更が現実的かつできるだけ小さい労力で変更できる属性を提示することが必要になる。
健康診断の例においては、AIによる判断結果をリスク高の現状からリスク低に変えたい場合、筋肉量を増やせば少ない労力で変更ができそうだが、体重を変えずに筋肉量だけを増やすことは非現実的であるため、実際には体重と筋肉量を増やすことが現実的な解となる。また、体重や筋肉量などの属性の間には、筋肉を増やすと体重も重くなるといった因果関係などの相互作用も多く、変更にかかる総労力は、各属性の変更順序に依存するため、属性の適切な変更順序を提示する必要がある。体重と筋肉量のどちらを先に変えればよいかは自明ではないため、膨大な変更点の候補の中から実現の可能性や順序を考慮した上で、適切な変更の方法を見つけることが課題となる。
富士通研究所と、北海道大学大学院情報科学研究院の有村研究室はこれまで、機械学習とデータマイニングに関する共同研究により、AIの判断理由を人間に説明できる新しいAI技術を開発してきた。
人の意思決定を支援するためのAI技術として、これまでに開発されてきたLIMEやSHAPといったAI技術は、AIがなぜこのように判断したかを説明することで、その判断結果に納得性を与える技術となっている。
今回、両者による共同研究において開発した新技術は、「もしこれをしていれば結果はこうなっていた」というように、事実とは異なる状態を示し説明する手法である反実仮想説明という考えに基づき、属性変更におけるアクションとその実施順序を手順として提示する。
過去の事例の分析を通して、非現実的な変更を避けつつ、属性値の変更が他の属性値に与える因果関係などの影響をAIが推定し、それに基づいて実際に利用者が変更しなければならない量を計算することで、適切な順序かつ一番少ない労力で最適な結果が得られるアクションの提示を可能とした。
たとえば、健康診断で望む結果にするために変更する入力属性とその順序において、リスクを低くするためには、筋肉量をプラス1kg、体重をプラス7kg変更しなければならない場合に、筋肉量と体重の間の相互作用を事前に分析することにより、筋肉量を1kgプラスすれば体重は6kgプラスされるというような関係が、因果関係の分析により推定できる。その場合、体重の変化量として必要なプラス7kgのうち、筋肉量の変更の後に必要となる変化量はプラス1kgとなる。実際に変化させなければならない変更量は、筋肉量プラス1kgと体重プラス1kgであると言えるため、先に体重を変化させるよりも少ない労力で望む結果を得ることができる。
富士通研究所では、共同開発した反実仮想説明AI技術を用いて、この分野で主に用いられる、糖尿病、ローンの与信審査、ワインの評価の3種類のデータセットで検証を実施。機械学習の主要なアルゴリズムであるロジスティック回帰、ランダムフォレスト、多層パーセプトロンの3つのアルゴリズムと開発技術を組み合わせ、AIの判断結果が望ましくない場合に、望む結果を得るためのアクションの提示を目的とした検証を行った。
その結果、今回の開発技術が、すべてのデータセットおよび機械学習アルゴリズムの組み合わせにおいて、少ない労力で推定結果を望む結果に変更するための、適切なアクションと実施順序を取得できたことを確認。特に、ローンの与信審査のケースでは、半分以下の労力を実現したという。
この技術を活用することで、AIによる自動判断において望ましくない結果が予想された場合に、その結果を望む結果に変えるために必要なアクションを提示することが可能になると説明。これにより、AIの用途を判断だけでなく、人の意思行動の支援に広げることができ、AIの適用先のさらなる拡大が期待できるとしている。
富士通研究所は、個別の因果関係を発見する技術と組み合わせることで、より適切なアクションを提示できるよう継続して取り組むとともに、独自開発した「FUJITSU AI Technology Wide Learning」によるアクション抽出技術を今回の技術により拡張し、富士通株式会社のAI技術「FUJITSU Human Centric AI Zinrai」を支える新たな機械学習技術として、2021年度の実用化を目指す。
北海道大学は、アクションの提示に限らず、多様な現場のデータから人間の意思決定に役立つ知識や情報を抽出するためのAI技術の確立を目指す。