NVIDIAの最新AIインフラは、一般的なホットタブよりも高温の液体冷却を採用している。このアプローチにより、データセンターから従来のファンやチラーが不要となる。エネルギー使用量、水消費量、騒音の削減を目的としている。
NVIDIAの次世代「Rubin」AIサーバーは、摂氏45度(華氏113度)の冷却水で稼働する。この液体はその温度でプロセッサに流入し、熱を吸収して55度前後で流出するが、チップは安全な動作温度内に保たれる。
このシステムは、かつてデータセンターの電力コストの最大40%を占めていた空冷方式に取って代わるものである。業界の推計によると、冷却温度を1度上げるごとに冷却にかかるエネルギー費用を約4%削減できるという。
新設計の下では水の使用量も大幅に削減される。従来のシステムは1メガワットあたり年間約260万ガロンの水を消費していたが、このクローズドループ型の液体冷却システムでは、その数値をほぼゼロに抑えることができる。
サーバーのコンパクト化も進み、6ラックユニット分だったものが2ラックユニットに収まるようになった。このアーキテクチャによりファンが不要となり騒音も低減されるが、結果は現地の気候条件によって異なる。