ニュース
パナソニックHDとストックマーク、1000億パラメーターの独自日本語LLM「Panasonic-LLM-100b」開発で協業
2024年7月3日 06:30
パナソニック ホールディングス株式会社(以下、パナソニックHD)とストックマーク株式会社は2日、パナソニックグループ専用の大規模言語モデル(LLM)「Panasonic-LLM-100b」の開発で協業すると発表した。
協業を通じた取り組みでは、ビジネス領域における国内最大規模の知識を学習させ、ハルシネーションを抑止したストックマークの独自LLM「Stockmark-LLM-100b」に対し、パナソニックグループが保有する社内情報を追加事前学習させることで、パナソニックグループ専用の日本語LLM「Panasonic-LLM-100b」を構築する。
一般的に国内各社が取り組む自社LLMは、70~130億パラメーターの小型モデルを採用することが多いが、今回の取り組みでは、パナソニックグループの膨大な社内データを学習させた、国内最大級の1000億パラメーター規模のLLM開発を行い、パナソニックHDで開発中のマルチモーダル基盤モデルへの統合を目指す。また、セキュリティ面に配慮し、企業の秘匿データを安全性高く学習する仕組みも構築予定としている。
「Stockmark-LLM-100b」は、経済産業省と国立研究開発法人新エネルギー・産業技術総合開発機構が主催する、国内の生成AI開発力強化を目的としたプロジェクト「GENIAC」への採択を受け、2024年5月に商用利用可能な形式で公開したLLM。フルスクラッチで開発した1000億パラメーター規模のLLMで、独自に収集したビジネスドメインの日本語データを中心に事前学習を行うことで、日本語・ビジネス領域に特化し、ハルシネーションの大幅抑止を実現することで、厳密さが重視されるビジネスシーンでも信頼して利用できる。
今回開発するLLMは、パナソニックHDが開発中のマルチモーダル基盤モデルに統合し、パナソニックHDおよび各事業会社におけるAI開発・社会実装を広く加速していくと説明。ストックマークが有するファインチューニング技術やハルシネーション抑制技術、小型モデルにおける精度向上のノウハウと、パナソニックHDが有するマルチモーダル基盤モデル、膨大な社内データ、ドメイン知識のシナジーにより、パナソニックHDのAI技術戦略である「Scalable AI」および「Responsible AI」の実現を通じた社会・顧客への貢献を目指すとしている。