CTCとリコー、リコー製LLMを搭載した小型AIサーバーを製品化　デスクサイドにも設置可能

　伊藤忠テクノソリューションズ株式会社（以下、CTC）と株式会社リコーは27日、小型のデスクサイドAI用サーバーとリコー製LLM（大規模言語モデル）を組み合わせ、オンプレミス環境で生成AIを利用できるソリューションを共同開発したと発表した。同日より、リコージャパン株式会社を通じて提供を開始する。

　今回開発された製品は、ローカルAIマシン「NVIDIA DGX Spark」のOEMモデルをベースとした、設置場所を選ばず導入できる小型のAIサーバー。150×150×50.5mm（W×D×H）というデスクサイドに設置可能な小型筐体でありながら、オンプレミス環境において大規模パラメータのLLMを動作させるための高い機動性と計算能力を備えている点が特徴であり、モデル検証から業務単位での活用まで幅広く利用できるという。

　サーバー内には、270億パラメータと比較的コンパクトな構成ながらも高性能を実現したリコー製LLMを搭載しており、機密情報を扱うリスクからオンプレミス環境でAIを活用したい企業などに向くとのこと。また、AIの動作検証や全社導入に向けたテスト導入、業務単位・担当者単位での導入にも適している。

　なお、サーバーへのリコー製LLMおよび生成AI開発プラットフォーム「Dify（ディフィ）」のプリインストールとAI活用環境の設定をCTCが実施し、リコージャパンがパッケージとして提供する。