NTTデータ、生成AIを活用した文章検索・回答生成システム「LITRON GA」を閉域環境で利用できる新サービスを提供

　株式会社NTTデータは26日、NTT版LLM「tsuzumi」と連携した生成AIを活用した文章検索・回答生成システム「LITRON Generative Assistant（以下、LITRON GA）」の新サービスを、4月に提供開始すると発表した。

　新サービスは、日本語の回答精度が高いtsuzumiと、最新版のLITRON GAの組み合わせにより、閉域環境でも安全かつ高精度な文章検索・回答生成システムを活用できるようにする。

LITRON Generative Assistant動作イメージ図（例：旅行代理店のユースケース）

　LITRON GAが提供する情報抽出・検索アルゴリズムとtsuzumiを組み合わせて、顧客の閉域環境に専用の生成AIの活用システムを構築できる。これにより、会社の重要情報の流出を懸念する顧客でも、安全にシステムを導入・利用できる。

　軽量なtsuzumiを採用することで、マシンリソースを大幅に節約できる。大きな学習・推論環境を必要とするLLM環境のコストを、従来に比べて20分の1以下に低減できる。

　tsuzumiに業務固有の情報を学習させることで、特定の用語や業務知識を前提とした回答を生成できる。

　サービスの業務適用例としては、金融商品のレコメンド支援では、tsuzumiに金融業務知識や取引履歴などを学習させ、最新の市場動向や商品情報を参照することで、顧客ごとにカスタマイズした顧客満足度の高い金融商品のレコメンドを支援する。

　患者ごとの治療計画策定支援では、tsuzumiに医療の専門知識とガイドラインなどを学習させ、患者ごとの詳細なライフスタイルなど顧客情報を参照することで、個別化された治療計画策定を支援する。

　行政サービス窓口における問い合わせ応答支援では、tsuzumiに行政窓口対応マニュアル、用語集、規則やポリシーなどを学習させ、FAQなどの関連ドキュメントを参照することで、問い合わせに即した行政サービスの案内を支援する。

　自動車販売店におけるパーソナライズされた提案書の作成支援では、tsuzumiに取引履歴や過去の提案資料、トークスクリプトなどを学習させ、最新の商品情報やマーケットトレンドを参照することで、成約率が高い顧客エンゲージメントや提案を支援する。

　NTTデータでは、多様なLLMやマルチモーダルAI（視覚読解、音声認識など）への対応、生成AI活用コンサルティングサービスの提供（構想策定、AIガバナンス、共創ワークショップでのユースケース検討、人材育成など）、tsuzumiの学習・推論環境も含めた顧客専用の生成AI環境の提供、NTTデータの他サービス上での生成AI機能・サービスの提供などの取り組みを通じて、生成AI業務利用を推進するとしている。