リコー、生成AIの入出力が安全かを判断するガードレール機能を組み込んだ日本語向けLLMを開発

　株式会社リコーは20日、生成AIへの入力や、生成AIが出力する内容が安全かどうかを判定するガードレール機能を組み込んだ日本語向けLLM（以下、セーフガードモデル）の改良版を開発したと発表した。セーフガードモデルは、大規模言語モデル（LLM）の入出力に含まれる有害情報を検知し、生成AIの安全な利用を支援する、安全性に特化したLLM。

　今回の新モデルは、「gemma-4-E4B-it」をベースにリコーが追加開発したもの。従来モデル（Llama-Ricoh-SafeGuard-20260520）と同等水準の安全性判定性能を維持しながら、モデルの小型化により、より少ない計算資源での利用を可能にしている。合わせて、近年のLLMの性能向上や実際の利用シーンの広がりを踏まえ、安全性判定基準を見直した。これにより、企業や組織における生成AI活用において、必要以上の利用制限を抑えながら、安全性と実用性を両立した運用を支援する。

　リコーは2024年10月に、LLMの安全性対策を目的とした社内プロジェクトを立ち上げ、規制や技術動向の把握、LLMの安全性に関する評価指標の整備、安全性を高めるための技術開発と社会実装に取り組んできた。2025年8月には、有害なプロンプト入力を判別する機能をリリースし、同年12月にはLLMが生成する有害な出力情報の検知にも対応した。2026年5月からは、セーフガードモデルをHugging Face上で無償公開している。今回、これまでの開発で培った知見をもとに、より実用性を高めた改良版モデルを開発した。

　新モデルは、ベースモデルを従来の「Llama-3.1-Swallow-8B-Instruct-v0.5」から「gemma-4-E4B-it」に刷新した。安全性判定性能は従来モデルと同等水準を維持しながら、モデルの小型化により、より少ない計算資源で利用できる。これにより、オンプレミス環境など、利用できる計算資源に制約のある環境にも導入しやすくなる。

　また、LLMの性能向上により、従来は安全上の懸念から一律に制限していた内容についても、利用目的や文脈に応じて有用かつ適切な回答が可能なケースが増えている。そこで新モデルでは、実際の利用シーンを踏まえて安全性判定基準を見直した。

　この見直しにより、必要以上に利用を制限するのではなく、安全性を確保しながらLLM本来の有用性を生かす運用が可能になる。これにより、企業や組織における生成AIの業務活用範囲の拡大を支援する。

　セーフガードモデルは、あらかじめ学習された13種類の一般的な有害カテゴリーに加え、ユーザーが用途や運用ポリシーに応じて、任意の判定ラベルを追加できる。モデルの追加学習を行わずに、業界固有のルールや企業ごとのガイドラインなどのラベルを追加することで、簡易的なカスタマイズができる。

　新モデルは11月から順次、リコージャパン株式会社が提供する「RICOH オンプレLLMスターターキット」に標準搭載し、顧客に提供する。