La dernière infrastructure d'IA de Nvidia utilise un refroidissement liquide à des températures plus élevées que celles d'un jacuzzi classique. Cette approche permet de supprimer les ventilateurs et les refroidisseurs traditionnels dans les centres de données. Elle vise à réduire la consommation d'énergie, la consommation d'eau et les nuisances sonores.
La génération de serveurs d'IA Rubin de Nvidia fonctionne avec un liquide de refroidissement à 45 degrés Celsius. Ce liquide pénètre dans les processeurs à cette température et en ressort à environ 55 degrés après avoir absorbé la chaleur, tout en maintenant les puces dans des limites de sécurité.
Le système remplace le refroidissement à air qui représentait autrefois jusqu'à 40 % des coûts d'électricité d'un centre de données. Selon les estimations du secteur, une augmentation de la température d'un degré peut réduire les dépenses d'énergie liées au refroidissement d'environ 4 %.
La consommation d'eau diminue considérablement grâce à cette nouvelle conception. Les systèmes conventionnels consomment environ 9,8 millions de litres par mégawatt par an, mais le refroidissement liquide en circuit fermé ramène ce chiffre près de zéro.
Les serveurs deviennent également plus compacts, occupant deux unités de rack au lieu de six. L'architecture supprime les ventilateurs et réduit le bruit, bien que les résultats dépendent des conditions climatiques locales.