ニュース
リコー、LLMの入出力に含まれる有害情報を検出するセーフガードモデルを無償公開
2026年5月21日 10:00
株式会社リコーは20日、大規模言語モデル（LLM）に対する有害情報の入出力を検知する自社開発のガードレール機能を組み込んだLLM「Llama-Ricoh-SafeGuard-20260520（以下、セーフガードモデル）」を無償公開した。
セーフガードモデルは、米Meta Platformsが提供する「Meta-Llama-3.1-8B」の日本語性能を向上させた「Llama-3.1-Swallow-8B-Instruct-v0.5」をベースに、リコーで追加開発を行ったもの。さらに、リコー独自の量子化技術により、小型・軽量化を実現している。
これまで同モデルは、リコージャパン株式会社が提供する「RICOH オンプレLLMスターターキット」に標準搭載し、顧客に提供してきた。今回、生成AIの安全な利活用により一層貢献することを目的に無償で公開する。
セーフガードモデル開発の背景についてリコーは、生成AIの社会的な広がりとともに、業務にAIを活用することによる生産性向上や付加価値の高い働き方を実現する取り組みが注目を集めている一方、生成AIの安全な利活用という点ではまだ多くの課題があると説明する。
リコーは、2024年10月にLLMの安全性対策を目的とした社内プロジェクトを立ち上げ、規制や技術動向の把握に加え、LLMの安全性に関する評価指標の整備や、安全性を満たす効果的な手法の開発、それらの社会実装に向けて取り組んできた。
セーフガードモデルは、その取り組みの一環として開発されたもので、2025年8月に有害なプロンプト入力を対象とした判別機能をリリースし、2025年12月にはLLMが生成する有害な出力情報の検知にも対応している。
セーフガードモデルは、LLMに対するガードレールとして機能し、入力されたプロンプト、およびLLMが生成した回答を監視することで、不適切または有害な内容を自動的に検出する。具体的には、暴力や犯罪、差別、プライバシー侵害など14種類のラベルに分類された、リコー独自に構築した数千件規模のデータを学習させている。これにより、LLMへの有害情報の入力や、LLMから出力される有害な回答を高精度に判別し、検知・ブロックすることが可能となる。
リコーは、セーフガードモデルをいち早く無償公開することで、その重要性を社会に提起するとともに、生成AIの安全な利活用の推進に貢献していくとしている。
