ニュース

リッジアイとジーデップ・アドバンス、LLM開発システム「ローカルRAGスターターBOX」を受注開始

 株式会社Ridge-i(以下、リッジアイ)と株式会社ジーデップ・アドバンスは20日、オンプレミス環境でユーザー固有の文書やデータを活用したRAGを実装することで、より手軽・迅速・安全な大規模言語モデル(LLM)開発を可能にするシステム「ローカルRAGスターターBOX」を共同で開発し、受注を開始したと発表した。

 国内トップクラスのNVIDIA GPU搭載システムの販売実績を有するジーデップ・アドバンスと、LLMアプリケーションの開発や高速化など数々のAI開発実績を持つリッジアイの2社が共同開発した「ローカルRAGスターターBOX」は、LLM・RAGの研究開発に最適なハードウェアとライブラリをあらかじめ用意しており、届いたその日から、クラウド接続が不要なローカル環境上でのLLMの利用や、ユーザー固有の文書やデータを活用したRAGの実装をすぐに始められる。

 ハードウェアのサポートだけでなく、リッジアイのAI開発に関するQ&Aが利用できるバウチャーチケットが付属しており、AI専門家からのサポートを受けながら、機密性、正確性、リアルタイム性が担保された、より精度の高いLLM・RAGの構築を行える。

 GPUには、NVIDIA Ada Lovelaceアーキテクチャを採用したRTX Adaシリーズを搭載。最大48GBのGDDR6メモリと広帯域なNVLINK(マルチGPU時)を組み合わせることにより、高いAI学習性能および推論性能を実現する。

 開発環境には、Dify OpenWebUIとOllama Xinferenceを実装し、AIモデルには2024年に発表されたLlama 3.1をはじめとした複数のモデルをプリインストールしている。

 ユーザーのデータをローカル環境内にとどめ、外部へ持ち出さないため、情報漏えいリスクを最小化。厳格なセキュリティポリシーが求められる業種でも安心して導入できる。

 GPUカードの交換や増設など、予算に合わせてマシンパフォーマンスの向上が可能。ハードウェアだけでなく、PoC推進のために本格的なコンサルテーションや開発をセット提供できるよう柔軟なオプションと提供形態を用意している。

 ローカルRAGスターターBOXの価格(税別)と仕様は、CPUがXeon w5-2555X、GPUがRTX 4500 Ada 24GBの「エントリーモデル」が199万8000円、CPUがXeon w5-3535X、GPUがRTX 6000Ada 48GBの「スタンダードモデル」が278万8000円、CPUがXeon w5-3535X、GPUがRTX 6000Ada 48GB(×3)の「ハイスペックモデル」が467万8000円。