ニュース

NVIDIA、データセンターのソフトウェア定義型ネットワークインフラを実現する「DPU」のロードマップを公開

DPU版CUDAといえる「DOCA」を提供へ

 半導体メーカーのNVIDIAは、同社のプライベート年次イベント「GTC 2020」を、10月5日(現地時間)よりフルデジタルカンファレンスとして開催している。

 10月5日午前6時(米国太平洋時間、日本時間22時)からは、同社の創始者でCEOのジェンスン・フアン氏による基調講演が行われている。それに先だってNVIDIAは報道発表を行い、同社のデータセンター向けのソリューションなどを発表した。

 この中でNVIDIAは、同社がイスラエルMellanox Technologiess(以下、Mellanox)を買収して得た、従来はSmartNIC(スマートニック、インテリジェントなイーサネットアダプタという意味)と呼ばれていた「BlueField-2」を、今後はDPU(Data Processing Units)と呼び、ソフトウェアで定義可能なネットワークのインフラとしてそのソフトウェア開発キットとなる「DOCA」(ドゥカ)を提供していくことを明らかにした。

NVIDIAの最初のDPUとなるBlueField-2

 DOCAは、NVIDIAがGPUに対してソフトウェア開発キットとしてCUDA(クーダ)を提供しているのと同じような形のソフトウェア開発キットで、ソフトウェア開発者はDPU向けソフトウェアを容易に、複数世代にわたり開発することができる。これにより、ストレージへのアクセス、ネットワークへのアクセスなどに利用されているCPUの負荷をオフロードし、データセンター全体の性能を底上げすることが可能になる。

 NVIDIAはそのBlueFieldシリーズのロードマップも明らかにし、BlueField-2のGPU搭載版として「BlueField-2X」を計画しているほか、2022年には搭載されているCPUの処理能力やディープラーニング(深層学習)の推論性能を倍に高めた「BlueField-3」、そしてそのGPU搭載版となる「BlueField-3X」を、そして2023年には、CPUとGPUを1つに統合したBlueField-4のリリースを計画していることを明らかにした。

NVIDIAのBlueField-2X

ソフトウェアでサーバーのインフラを定義するDPU、Mellanox由来のBlueField-2が最初の世代に

 NVIDIAは近年データ向けのソリューションに力を入れている。言うまでもなく、現在のデータセンターでは多くのAIアプリケーションが走っており、その学習プロセスには、同社のGPUとその開発環境であるCUDAをベースにしたソフトウェアが使われていることもあって、NVIDIAのデータセンター事業の売上は年々伸びていっている。

 そのNVIDIAが次の手として2019年に買収を発表したのが、イスラエルのMellanoxで、2020年に買収は完了している。MellanoxはInfiniBandやEthernetといったネットワーク技術、つまりデータセンターとデータセンター、あるいはラックとラック、ブレードとブレードなど接続する技術の提供企業として知られており、この買収でNVIDIAは、データセンターを支えるインフラの部分を手に入れたといえる。

 そのMellanoxが開発して販売してきたSmartNICが「BlueField-2」で、買収後には、NVIDIAのブランドが冠された「NVIDIA BlueField-2」として投入されてきた。SmartNICとは、Ethernetなどのネットワーク機能に加えて、CPUのようなデータを処理する汎用プロセッサを搭載したインテリジェントのNIC(Network Interface Controller)という意味だ。BlueField-2には、MellanoxのConnectX-6というNICと、Arm Cortex-A72(8コア)のCPU、2つのVLIWのアクセラレーションエンジンなどを搭載しており、ソフトウェアで新しい機能を定義することが可能になっている。

BlueField-2の仕様

 このBlueField-2とソフトウェアを組み合わせることで、従来はホスト側のCPU(例えばXeon、EPYC、Arm CPUなど)が行っていたネットワークの管理、ストレージの管理、セキュリティ、インフラ管理などをオフロードして、BlueField-2側で行われることが可能になる。

 これによってCPUは、仮想マシンの実行やコンテナの実行などによりリソースを使えるようになり、データセンター全体の効率を大きく向上させることが可能になる。今後はこうしたSmartNICを「DPU」(Data Processing Units)と呼び、BlueField-2がその最初の世代の製品と位置づけられる。

SmartNIC改めDPUでは、従来はCPUが処理していたネットワークの管理やストレージの管理、セキュリティなどのワークロードを、システム側のCPUからオフロードすることが可能になる

DPUの開発はNVIDIAが提供するDOCAで、複数世代にわたって開発したソフトウェアを使用可能

 すでにNVIDIAはVMwareと提携しており、「Project Monterey」(プロジェクトモントレー)という取り組みの中で、BlueField-2がVMware Cloud Foundationでサポートされると共同で発表している。

 さらにRed Hatも、Red HatのKubernetes/Docker対応製品群「Red Hat OpenShift」などでBlueField-2の対応を発表している。

 今回NVIDIAは、このBlueField-2向けに、新しいソフトウェア開発環境としてDOCAを導入することを明らかにした。NVIDIAではGPUの汎用演算用にソフトウェア開発キットのCUDAを提供しているが、DOCAはそのDPU版ということになる。ソフトウェア開発者はこのDOCAを利用することで、複数世代のDPUで利用できるDPUのソフトウェアを容易にプログラミングすることが可能になる。

 DOCAは今後NVIDIAのNGC(ディープラーニング/マシンラーニング向けのソフトウェア最適化環境)に統合されて提供され、開発者がより容易にアクセスできるようにされる。

DOCAのコンセプト、CUDAのDPU版だと考えれば理解しやすい

ロードマップにはGPUを基板上にのせたBlueField-2X、将来にはCPU/GPUが1チップになったBlueField-4も

 NVIDIAは、BlueField-2の今後のロードマップに関しても明らかにした。それによれば、今後BlueField-2にAmpereアーキテクチャのGPUを統合した「BlueField-2X」の提供を開始する。

 BlueField-2Xは、BlueField-2に搭載されているArm Cortex-A72(8コア)と2つのVLIWアクセラレータエンジンに加えて、NVIDIAのAmpereアーキテクチャのGPUを搭載しており、それらのCPUとGPU間はPCI Express Gen 4で接続される。

 DOCAを利用することで、CPU、VLIWアクセラレータ、GPUをヘテロジニアスに利用し、サーバーのネットワークやストレージ、セキュリティなどの機能を、ソフトウェアで定義して実現することができる。NVIDIAによれば、BlueField-2XはCPU性能はBlueField-2と同じだが、GPUが追加されたことで、AI推論時の性能が0.7TOPSから60TOPSへと約85倍に強化されるという。

BlueField-2X

 2022年には次世代製品となるBlueField-3となる。CPUの性能(SPECint)は350とBlueField-2の5倍に強化される。推論の性能は約2倍の1.5TOPS、ネットワークの性能も200Gbpsから倍の400Gbpsへと強化される。そのBlueField-3のGPU搭載版がBlueField-3Xとなり、AIの性能が75TOPSへと引き上げられる。

 そして2024年に計画されているBlueField-4では、CPUとGPUが1ダイに統合され、性能が大きく強化される。CPUの性能は1000(SPECint)となり、Bluefield-2の14.2倍になる。またAIの性能も400TOPSとなりBluefield-2の約571倍の性能を実現する。

NVIDIAのDPUロードマップ

 これらの複数世代の製品に向けたソフトウェアを、DOCAで開発することが可能になる。つまり、新しい世代の製品がリリースされても、過去の世代向けに作ったコードがそのま新しい世代で使えることになるという、後方互換性を実現している。過去の資産がそのまま使えるということを意味しており、過去の投資がそのまま生かせるという意味でも注目に値する。

英国には80台のNVIDIA DGX A100から構成されたCambridge-1を設置、投資額4000万ポンド

 このほかNVIDIAは、エッジAI向けのEGX AIプラットフォームの提供を開始したことや、新しいエッジ向けの開発ボードとしてJetson Nano 2GBなどの提供を開始したことなどを明らかにした。

Jetson Nano 2GBは、59ドルと低価格に提供される

 また、NVIDIAはAIを利用した製薬のためのプラットフォーム「NVIDIA Clara Discovery」を発表し、その最初の顧客として英国のGSK(グラクソ・スミスクライン)を迎えたことを明らかにした。そのGSKなどの英国の製薬企業などのために、NVIDIAとしては初めて米国外に設置する同社のスーパーコンピュータ「Cambridge-1」を、英国に設置したことを明らかにした。

NVIDIAが英国に設置するスーパーコンピュータ「Cambridge-1」
NVIDIA Clara DiscoveryをGSKが採用

 NVIDIAによればCambridge-1は80台のNVIDIA DGX A100(NVIDIAが提供するブレードサーバー型のHPC)から構成されており、それぞれがMellanoxのInfiniBandで接続されている。

 元になったNVIDIAのDGX SuperPodはピーク性能で400PFLOPS、Linpackでは8PFLOPSの性能を実現しており、TOP500では29位、Green500ではトップ3に入る性能に相当する。NVIDIAでは、このCambridge-1のために4000万ポンド(日本円で約53億円)の投資を英国にて行っていることもあわせて発表している。