KDDI、大阪堺データセンターの推論環境にAIモデルを拡充、2027年度には「NVIDIA HGX Rubin NVL8」を導入

　KDDI株式会社は27日、大阪堺データセンターの推論環境において、12月から順次、活用可能なAIモデルを拡充すると発表した。GoogleのAIモデル「Gemini」に加え、「Gemma」などのオープンウェイトモデルを追加する。

　これにより、最先端の汎用AIモデルであるフロンティアモデルから、オープンウェイトモデル、顧客独自のAIモデルまで対応し、機密性の高いデータを国内で保管・管理したまま、用途や要件に応じて最適なAIモデルを選択できる推論環境を提供する。

大阪堺データセンターにおける推論環境

　オープンウェイトモデルは、汎用的なAIモデルを手軽に利用したい顧客向けに、大阪堺データセンター内のGPU環境で稼働する「Gemma」などのKDDI選定のAIモデルをAPI形式で提供する。推論データは国内で処理されるため、データ管理要件に配慮しながらAIモデルを利用できる。

　また、自社独自の知識やノウハウ、機密データを活用したAIサービスを構築したい顧客向けに、独自のAIモデルを大阪堺データセンター内で運用できる環境を提供する。他ユーザーから分離された環境で、機密性の高いデータを利用した推論を実行できる。

　先行パートナーとして、株式会社リコー、株式会社医用工学研究所（以下、MEI）に同環境の提供を予定している。パートナー各社とともに多様な推論ニーズとの適合性を検証し、企業のAI社会実装に向けた取り組みを支援する。

NVIDIA 最新世代GPU「Rubin」

　さらに、KDDIは大阪堺データセンターの計算基盤をさらに高度化するため、2027年度にNVIDIAの最新世代GPU「NVIDIA HGX Rubin NVL8（以下、HGX Rubin NVL8）」を導入する。HGX Rubin NVL8は、AIモデルの学習・推論からAIエージェントまで、大規模かつ効率的に処理可能な次世代AIプラットフォームで、前世代のBlackwellと比べてメモリ容量が約1.4倍、メモリ帯域幅が約2.1倍、FP4演算性能が約2.8倍に向上している。また、推論におけるスループットは最大10倍となり、複雑かつ大規模なAI処理を要する多様なニーズに対応する。

　KDDIはこれらの性能向上を生かし、顧客の多様なAIモデルの活用とAIサービスの提供に貢献する。

　なお、HGX Rubin NVL8の導入にあたっては、大阪堺データセンター内にコンテナ型データセンターを整備し、従来型のファシリティ構築と比較して工期の大幅な短縮を目指している。また、HGX Rubin NVL8は主要な演算処理やネットワークコンポーネントに対して、高度なダイレクト液体冷却をサポートし、最大45℃の冷却水温で稼働するように設計されている。これにより外気を利用するフリークーリングを採用でき、冷却に関わる電力を最大90％削減できる。

　KDDIは、今後活用可能なAIモデルを追加していくとともに、モビリティやロボット、ドローンなどのフィジカルAI領域への本環境の活用も見据え、推論環境のさらなる拡充を進める。