ニュース

NTTデータ先端技術、ローカルLLMを利用した金融システム開発向けの生成AI活用を検証

 株式会社NTTデータ先端技術は14日、株式会社NTTデータフィナンシャルテクノロジーと連携し、金融機関のシステム開発における生成AI活用を見据え、オンプレミスの閉域環境におけるローカルLLM(大規模言語モデル)活用の技術検証(PoC)を実施したと発表した。

 NTTデータ先端技術は検証の背景として、生成AI技術が業務効率化の手段として注目されているが、金融機関においては特に、従量課金によるコスト増大や予算管理の難しさに加え、取り扱う情報の機密性の高さによるデータ保護や、法規制や業界ルールを踏まえたガバナンス確保のハードルが高いことが課題となっていると説明する。そのため、安全かつ計画的に生成AIを活用できる基盤へのニーズが高まっているという。

 検証は、生成AI基盤をオンプレミス環境上に構築し、各種データを外部に一切送信しないローカルLLM環境を構築し、金融システムの開発における生成AIの業務適用の実現可能性を確認した。検証により、情報漏えいリスクを最小限に抑えつつ、企業のセキュリティポリシーや内部統制に沿ったセキュリティ・ガバナンスを確保した生成AIを活用したシステム開発が可能であることを確認した。

 技術では、機密情報を含む各種データを外部に一切送信しないローカルLLMを金融システムの開発に活用可能かを検証するため、想定される「整合性チェックの自動化」「ドキュメント品質の向上」「修正作業の迅速化」の3つのユースケースを定義した。

 今回は特に、金融機関のシステム開発における設計書作成業務に対し、「整合性チェックの自動化」の検証を行った。オンプレミス環境下に構築したローカルLLMを活用し、セキュリティポリシーや内部統制の仕組み、業界標準といったルールから逸脱することなく、自動でチェック・修正し、設計書作成におけるレビュー工程を削減できることを確認した。今後は、2つのユースケースについても引き続き検証を進めていく。

 また、検証では、業務内容や目的に応じてLLMモデルや構成を柔軟に選択可能な、高いカスタマイズ性を備えた生成AI基盤を構築し、実際に複数のLLMモデルを用いたユースケース実行の比較検証を行った。その上で、金融システムに特化したナレッジを活用するために最適なLLMモデルやRAG(検索拡張生成)といった技術を選択できることの効果や有用性を確認した。

 さらに、導入初期の段階では規模を抑えスモールスタートでの生成AI基盤導入となることを想定し、段階的に利用範囲を拡大できる運用モデルについても評価を行った。その結果、生成AI導入時の投資リスクを抑えつつ、業務への効果を確認しながら本格導入へ移行できる点を確認した。

 コスト面においては、ローカルLLMを採用することで、生成AI基盤の利用量に大きく影響されない安定したコスト構造(コストの固定化)を実現できることを検証した。さらに、顧客環境を想定したオンプレミスサーバー上に生成AI基盤を構築するアーキテクチャを採用した。これにより、クラウド利用料の削減やネットワーク帯域コストの抑制といった追加的なコストリダクション効果が見込めるほか、予算管理の容易化や中長期的なコスト見通しの明確化といった効果が期待できるとしている。

 NTTデータ先端技術は、技術検証の結果を踏まえ、セキュリティやガバナンス、カスタマイズ性、サポート体制、コスト予見性を重視した生成AI活用の実現に向け、さらなる検討と取り組みを進めていく。また、金融機関ニーズに応える形で、機密情報保護やセキュリティを担保した生成AI活用を推進するとともに、同様の要件が求められる他業界における生成AI活用を支援していくとしている。

ローカルLLM環境の構成イメージ
主なユースケース