特集

水冷サーバーのための設備を検証する、NTTデータ「Data Center Trial Field」

 データセンターにおける電力需要拡大は、サーバーの高密度化から始まっていたが、生成AIが普及し始めたことで桁違いの伸びを見せている。電力需要が増えることはすなわち発熱量が増えることであり、これまで一般的だった空気を当ててチップを冷やす空冷式のサーバーでは対応できない事態となっている。

データセンターの電力需要の変化と主要因

 サーバーメーカー各社は水冷サーバーを発表しているが、データセンターにとってはこれまで通りの設計や建設、設備構築では対応できないことが増えてきた。特に、水冷サーバーでは、建物の設備としての空調と、サーバーラック内を冷却する仕組みの、どこに責任分解点を置くか、難しい問題が生じる。

 NTTデータでは、この問題にフォーカスして、実際に水冷サーバーを設置するデータセンターでは、どのような設備の工夫が必要なのかを検証している。

液冷サーバーの要求冷水温度に対応する

 サーバー冷却の技術としては、現時点で大きく3種類がある。

①空冷サーバー
 発熱するチップに冷やした空気をファンで吹き付けて冷却する。発熱が大きいほど冷気を強く当てる必要があり(ファンがうるさい)、サーバールームの室温を下げる必要がある。室温を下げるだけでは冷やしきれず、ラックのリアドアに直接冷水管を回して上がりすぎた温度を下げる局所冷却の仕組みも登場している。どちらにしても、かなり低い温度の冷水が必要になる。

②コールドプレートによる液冷
 液体で冷やしたコールドプレートを、発熱しているチップに密接させて直接熱を取る方式。電源ユニットなど発熱する部品が残っているので、サーバー筐体からファンを完全になくすことはできないが、チップ冷却のためのファンがうるさいということは起きない。

サーバー冷却(空冷⇔水冷)の仕組み

 また、チップが安定稼働するための温度まで下げればいいので、コールドプレートは極端な低温である必要はない。むしろ、冷たすぎると結露してよくないとも言われる。

③液浸
 むき出しのサーバーを冷却液(主にフッ素系の物質)に浸ける方式。従来のサーバーラックとはまったく違った作りなので、特別なサーバーが必要だしメンテナンスが大変なのではないかと想像しがちだが、冷却液が適切なものであれば、引き上げたサーバーに水滴がつくようなこともなく、意外と使い勝手はよいとの報告もある。

 冷却槽内の冷却液はサーバーが安定稼働する温度まで下げればいいので、50℃前後に安定すれば問題ない。このため、冷却液を冷やすための冷却水には、極端な低温は必要ない。ただし、液体が入った槽を大量に並べるとなるとかなりの重量になり、建物はこれまでと違う仕様が必要になる。

 それぞれの方式で、冷却水に必要な温度が異なる。従来の空冷サーバーを前提としたデータセンターでは、ターボ冷凍機で作った冷水で空気を冷やすか、コンプレッサーを使った空調機で冷気を作っていた。近年は、いわゆるフリークーリングで、比較的高い温度の冷気を利用するケースもある。

冷却方式ごとの要求冷水温度および熱源機器の供給可能冷水温度

 水冷サーバーの普及が進むと、従来の空調設備よりも、柔軟に温度設定できる熱源の仕組みが必要になるだろうと予想できる。例えば、まずは空冷サーバーの環境として構築するが、徐々に水冷サーバーに置き換えていく可能性もあるし、サーバーに求められる冷却水の温度が今後変化する可能性もある。

 幅広い温度帯の冷却水を提供可能な熱源機器であれば、設備の変更を伴わずに、そのような変化に対応できる。そこで、データセンター向けに最適化した桑名金属工業のチルドタワーを、NTTデータと日比谷総合設備が検証している。

チルドタワー

 チルドタワーの構造は、下の逆三角形部分はフリークーリング、その上にコンプレッサーを使ったチラー、最上部は廃熱を上に送り出すファンがついている。廃熱を上に出すことで、フリークーリングを利用する際に熱が回り込まないようになっている。

 外気温が低い時期はフリークーリングのみを使い、それだけで目標温度に達しない場合はチラーも稼働する。逆に、外気温が高い時期は、チラーのみを使うことで、年間を通して冷水を適温に保つ。供給水温を設定すれば年間を通して自動運転するので、運用の手間もかからない。また、1台のサイズは幅が約2m、奥行きが約80cm、高さが約3.7mとコンパクトで、最大25台まで連結できる。省エネ、省力、省スペースが売りだ。

チルドタワーの仕組み

IT領域と建物設備領域の接近

 従来の空調方式では、IT領域と建物設備領域は明確に分離されていた。建物の空調機械室まではターボ冷凍機で作った冷水が入ってくるが、サーバールーム内には水は厳禁というのが、従来のイメージだ。しかし、水冷サーバーの場合は、サーバールームの中にまで水が入り込む。

IT領域と建物設備領域の接近

 チップに密接するコールドプレートを冷やす冷却液を、建物設備から供給される冷水で冷却する DCU(Cooling Distribution Unit)は、ラックと一体化している。サーバーメーカーによって若干の違いはあるようだが、ラック内に水を引き込む管と継ぎ手までセットにして納品するケースもある。

 実際にデータセンターを建設する場合は、海外製のパイプや継ぎ手がそのまま入ってくるため、施工が面倒な部分もある。検証施設では、これを解決しようという取り組みも行っている。三桜工業は自動車部品メーカーとして精度の高い部品を供給してきた企業だが、バルブ機能付きの継ぎ手や、樹脂製の管を開発した。

バルブ機能付き継ぎ手

 米国製の管は取り回しが大変で邪魔になるし、つないでいった先でねじれが発生した時にやり直しが必要になるなど、実際の施工に不便な面があるという。三桜工業の継ぎ手はインターロック機能による漏水防止機能を備えたうえで、比較的コンパクト、自在に向きを変えられるなど、施工しやすさに配慮されたものになっていた。

 水冷、液浸のシステム構築、運用には、液体配管工事や保守作業が必要となる。データセンター内の液漏れリスクは、データセンター事業者や施工会社等の関係事業者にとっても大きな懸念材料となっている。また、CDUとの接合部はメーカーごとに差異があり、施工品質の標準化も課題だ。これらの課題を解決できることが、サーバーの性能がきちんと発揮されることにつながる。このような細かいところまで検討しているのは、いかにも日本らしい。