ニュース

富士通、論理推論を可能とするLLMの研究開発が生成AI開発力強化プロジェクト「GENIAC」に採択

 富士通株式会社は17日、経済産業省が推進する国内の生成AIの開発力を強化するためのプロジェクト「GENIAC(Generative AI Accelerator Challenge)」のもと、国立研究開発法人新エネルギー・産業技術総合開発機構(以下、NEDO)が公募した、「ポスト5G情報通信システム基盤強化研究開発事業/ポスト5G情報通信システムの開発(助成)」に採択され、論理推論を可能とする大規模言語モデル(以下、LLM)の研究開発を開始すると発表した。

 富士通では、企業における生成AI活用の課題を解決する業務に特化した生成AIの提供を目指して研究開発を行っている。生成AIの業務活用における大きな課題の一つとしては、さまざまな業務のニーズに応じた性能と機能の提供が挙げられ、現行の汎用LLMでは計算量やコスト、精度などが業務要件を満たさない場合、業務特化型のLLMが有効だと説明。富士通は、「富岳」を用いて学習した日本語能力に優れた「Fugaku-LLM」の開発と提供を行っており、今後もさまざまな業種や業務に特化した特化型LLMの開発を強化していく予定としている。

 また、生成AIの業務活用の二つ目の大きな課題は信頼性の担保で、自然言語処理に特化した生成AIの一種である現行のLLMは、知識不足の事柄について根拠に基づかないもっともらしい誤りを回答してしまう幻覚(ハルシネーション)が発生することに加えて、LLMが内部パラメータとして保有している知識を把握する手段がないため、信頼性が求められる業務へのLLM導入が進まないことが課題だという。

 そこで富士通は、LLMに回答させる時に、必要な業務知識を自然言語ではなく知識処理技術の一つであるナレッジグラフの形式でLLMに追加入力すると、より業務知識に従って回答させられることに着目。LLMがさらに高度な推論をナレッジグラフに従って進められるようにするために、富士通ではナレッジグラフとLLMを融合する新技術の開発に着手し、2024年度中の業務活用の実現を目指す。

 この新技術は、2023年9月に発表した富士通の幻覚検出技術をさらに強化するものとなる。富士通では、ナレッジグラフに関して10年以上にわたる継続的な研究開発を行っており、ナレッジグラフの抽出から構築、検索、AI活用などに渡り多くの知見を有していると説明。新技術は最終的に、人間が理解しやすい形式で根拠を説明しながら、業務知識に従って論理推論を進めるLLMを実現するもので、規制や規則への準拠と説明を要する法務分野での不法行為判定や根拠検索、金融分野における内部統制や会計監査、医療分野での症状検索や診断支援などの業務へのLLM適用が進むことが期待されるとしている。

 助成事業では、知識処理技術の一つであるナレッジグラフの生成と推論に特化したLLMを開発することで、自然言語の規制や規則から生成したナレッジグラフに従ってLLMに回答を論理推論させる技術の実現を目指す。技術は最終的に、富士通が全社AI戦略として掲げ、2024年度中の実現を目指す「出力の不安定性を解消し、条文が長く複雑な法規制や社内規則に準拠した正確な出力を保証する生成AIトラスト技術」の中核技術となる。

 助成事業では、「自然言語文書をナレッジグラフに変換して形式知にするLLM(ナレッジグラフ生成LLM)」と、「与えられた質問に対してナレッジグラフ上で関連情報を探索し、論理的に集約し回答するLLM(ナレッジグラフ推論LLM)」の二つの特化型LLMを開発する。限られた開発期間で二つの特化型LLMを効率よく開発するために、まず両特化型LLMに共通的な事前学習済みLLMを開発する。

 LLM開発の特長は、自然言語文書とナレッジグラフの双方を同等に扱う能力をLLMに獲得させるために、自然言語文書とナレッジグラフとの対訳コーパスを事前学習データに追加する点となる。その上で、一方にはナレッジグラフ生成向けの指示学習を、もう一方にはナレッジグラフ推論向けの指示学習をそれぞれ実施することで、各特化型LLMを同時並行で開発するとしている。

 富士通では、助成事業の成果物である、ナレッジグラフの生成や推論に特化したLLMや、ナレッジグラフ生成や推論タスクの評価スクリプト、その他開発中に得た知見やノウハウなどは、利用したデータやソフトウェアの利用規約、OSSライセンス、著作権などが問題ない形で、Hugging FaceやGitHub、富士通の技術ブログ、GENIACコミュニティなどで順次公開を予定し、富士通のAIサービスである「Fujitsu Kozuchi」に搭載していくとしている。