ニュース

リコー、高い日本語リーズニング性能と高速・省リソースな運用を両立するMoE型マルチモーダルLLMを開発

 株式会社リコーは15日、日本語の文書や図表を高精度に理解し、高速・省リソースで動作するマルチモーダル大規模言語モデル(LMM)「リコーLMM_35B-A3B」を開発したと発表した。同モデルは、アリババクラウドが開発・提供するMoE(Mixture of Experts)構造を採用した「Qwen3.6-35B-A3B」をベースに、リコー独自の強化学習およびカリキュラム学習技術を活用して、日本語でのリーズニング性能を高めた。

 開発したモデルは、総パラメータ数約350億のうち、推論時に約30億パラメータのみを選択的に稼働させるMoE構造を採用している。MoE構造では、モデル内部の処理を複数の「専門家」に分担させ、入力に応じて必要な専門家だけを選んで動かす。これにより、同規模のDense型モデルと比べて1トークンあたりの計算量を抑え、高速な処理を実現する。最大256Kトークンの長文コンテキストに対応しており、長大なドキュメントを一度に読み込み、推論できる。画像に加えて動画入力にも対応し、外部ツールを呼び出すツール利用(Tool use)機能も備えている。

Dense型モデルとMoE型モデルの推論時に稼働するパラメータの違い(模式図)

 リコー独自の強化学習およびカリキュラム学習技術をMoE向けに発展させ、図表を含む企業ドキュメントの読解性能をベースモデル「Qwen3.6-35B-A3B」から向上させた。リコーの独自ベンチマーク「JDocQA-Reasoning Benchmark v2.0」による評価では、ベースモデルを上回り、商用クラウドAIモデル「GPT-5.6 Sol」と同等水準の性能を確認した。加えて、ELYZA-tasks-100やJapanese MT-Benchによる日本語LLM性能評価では、ベースモデルと同水準を維持しており、図表読解能力の向上と汎用的な日本語性能の両立を実現している。

 また、開発したモデルは、文書の読解や回答生成に加え、業務システムやツールを活用しながらタスクを自律的に実行するAIエージェント用途にも対応している。日本語AIエージェント評価ベンチマーク「j-tau-bench」(SB Intuitions公開)の通信事業者カスタマーサービス(telecom)シナリオにおいて、業務ポリシーに従ってツールを利用しながらユーザーと対話し、依頼されたタスクを正しく遂行できた割合(正答率)が、ベースモデルの62.4%から77.7%へと15.3ポイント向上した。これにより、社内文書の読解・活用だけでなく、問い合わせ対応や各種業務手続きの自動化を支援する。

 リーズニング型モデルでは、同じ内容を繰り返して出力し続ける「ループ回答」が実運用上の課題となることがある。リコーは、過度に長い出力を抑制する報酬設計を強化学習に取り入れることで、回答の品質を維持しながら不要な繰り返しを抑制した。これにより、応答時間の安定性を高めている。

 リコーはまた、NVIDIAのBlackwell世代以降のGPUで効率的に動作するよう量子化したリコーLMM_35B-A3BモデルのNVFP4版を開発し、超小型デスクサイドAI用サーバー「NVIDIA DGX Spark」1台で実用レベルの生成AI処理を実現した。

 リコーは、2026年6月に発表した高精度志向のDense型モデル「リコーLMM_27B」、軽量モデル「リコーLMM_9B」に、今回開発した速度・省リソース性に優れたMoE型モデルを加えることで、顧客の業務要件や導入環境に応じて最適なモデルを選択できるラインアップを拡充する。