NVIDIA a assemblé 72 GPU Blackwell Ultra et 36 CPU Grace dans une unité rack refroidie par liquide qui consomme environ 120 kW et fournit 1,1 exaFLOPS de calcul FP4 avec le GB300 NVL72 - 1,5 fois plus de performances IA que le GB200 NVL72 d'origine (NVIDIA, 2025). Cette simple armoire modifie toutes les hypothèses concernant l'alimentation, le refroidissement et le câblage dans les centres de données modernes. Voici ce que les ingénieurs de déploiement apprennent alors qu'ils préparent les sites pour les premières livraisons de GB300 NVL72.

1. Dissection de la crémaillère

ComposantCompteSpécification cléTiré de puissanceSourceTableaux de calcul Grace-Blackwell18~6,5 kW chacun117 kW au totalSupermicro 2025Tableaux de commutation NVLink-59130 TB/s agrégés3,6 kW au totalSupermicro 2025Tablettes d'alimentation8132 kW de sortie DC au total0,8 kW de surchargeSupermicro 2025 DPUBluefield-318Décharge de stockage et de sécuritéIncluse dans le calculThe Register 2024

L'armoire pèse environ 1,36 t (3 000 lb) et occupe le même espace qu'un rack 42U conventionnel (The Register, 2024). Le GB300 NVL72 représente Blackwell Ultra, avec des GPU B300 améliorés dotés de 288 Go de mémoire HBM3e par GPU (50 % de plus que les 192 Go du B200 original) grâce à des piles HBM3e de 12 hauteurs au lieu de 8. Chaque superpuce associe désormais quatre GPU B300 à deux CPU Grace, par rapport à la configuration originale à deux GPU. Chaque super-puce Grace-Blackwell associe 72 cœurs de GPU Blackwell Ultra à 2,6 GHz à un CPU Arm Neoverse V2 à 128 cœurs fonctionnant à une fréquence de base de 3,1 GHz. La mémoire HBM3e intégrée fournit 8 TB/s par GPU avec une capacité de 288 GB.

Aperçu de la situation sur le terrain : Le centre de gravité du rack est 18 % plus élevé que celui des serveurs standard en raison de la densité des ressources informatiques placées dans les plateaux supérieurs. Les meilleures pratiques recommandent désormais d'ancrer les rails de montage avec des boulons M12, plutôt qu'avec des écrous à cage standard, afin de remédier aux micro-vibrations observées lors d'un fonctionnement à pleine charge.

2. Nourrir la bête : l'alimentation en énergie

An GB300 NVL72 rack ships with built‑in PSU shelves, delivering 94.5% efficiency at full load. Peak consumption hits 120.8 kW during mixed‑precision training workloads—power quality analyzers typically record 0.97 power factor with <3% total harmonic distortion.

Comparaison des topologies de tension :

208V/60Hz : 335A courant de ligne, nécessite du cuivre 4/0 AWG (107mm²)
415V/50-60Hz : 168A de courant de ligne, nécessite seulement 70mm² de cuivre
480V/60Hz : Courant de ligne 145A, déploiement minimal en Amérique du Nord

La meilleure pratique de l'industrie consiste à fournir deux alimentations triphasées de 415V par rack via des connecteurs IEC 60309 de 160A. Ce choix permet de réduire les pertes I²R de 75 % par rapport au 208 V tout en maintenant la compatibilité avec les normes européennes en matière d'installations. Les mesures sur le terrain indiquent que les panneaux de disjoncteurs restent généralement en dessous de 85% de déclassement thermique dans les salles à 22°C.

Atténuation des harmoniques : Les racks GB300 NVL72 présentent une distorsion harmonique totale de 4,8 % sous des charges d'entraînement AI typiques. Les déploiements dépassant huit racks nécessitent généralement des redresseurs à 12 impulsions sur des transformateurs dédiés pour maintenir la conformité à la norme IEEE 519.

3. Manuel de refroidissement : Réalité de l'ingénierie thermique

Chaque puce Blackwell Ultra GPU mesure 744 mm² et dissipe jusqu'à 1 000 W par le biais de son interface à plaque froide. Le processeur Grace ajoute 500 W pour ses 128 cœurs. Le programme IR7000 de Dell positionne le liquide comme la voie par défaut pour les équipements de classe Blackwell, revendiquant des capacités par rack allant jusqu'à 480 kW avec des échangeurs de chaleur fermés sur la porte arrière (Dell Technologies, 2024).

Hiérarchie thermique recommandée :

≤80 kW/rack : Échangeurs de chaleur à porte arrière avec eau d'alimentation à 18°C, débit de 35 L/min.
80-132 kW/rack : Boucles directes sur puce (DTC) obligatoires, alimentation à 15°C, 30 L/min minimum
132 kW/rack : Refroidissement par immersion ou configurations en split-rack requises

Spécifications du DTC à partir des déploiements sur le terrain :

Plaque froide ΔT : 12-15°C à pleine charge (température de jonction du GPU 83-87°C)
Perte de charge : 2,1 bar sur l'ensemble de la boucle avec 30 % de propylène glycol
Répartition du débit : variance de ±3% sur l'ensemble des 72 plaques froides GPU
Leak rate: <2 mL/year per QDC fitting (tested over 8,760 hours)

Aperçu critique : Le réseau de distribution d'énergie de Blackwell Ultra présente des transitoires à l'échelle de la microseconde, atteignant 1,4 fois la puissance à l'état stable pendant la synchronisation du gradient. L'industrie recommande de dimensionner le refroidissement à 110 % du TDP nominal pour gérer ces pics thermiques sans que le GPU ne soit étranglé.

4. Structure du réseau : gestion de NVLink 5.0 et de la connectivité améliorée

Chaque GB300 NVL72 contient 72 GPU Blackwell Ultra avec NVLink 5.0, fournissant une bande passante de 1,8 To/s par GPU et 130 To/s de bande passante NVLink totale dans le système. La cinquième génération de NVLink fonctionne à un taux de signalisation de 200 Gbps par lien, avec 18 liens par GPU. Les neuf puces NVSwitch acheminent ce trafic avec une latence de commutation de 300 nanosecondes et prennent en charge les modèles de communication 576 voies entre GPU.

La connectivité inter-rack est désormais assurée par les SuperNIC ConnectX-8 qui fournissent une connectivité réseau de 800 Gb/s par GPU (deux fois plus que les 400 Gb/s de la génération précédente) et prennent en charge les plates-formes NVIDIA Quantum-X800 InfiniBand et Spectrum-X Ethernet.

Architecture de câblage :

Intra‑rack: 1,728 copper Twinax cables (75‑ohm impedance, <5m lengths)
Inter-rack : 90 ports QSFP112 via des émetteurs-récepteurs 800G sur OM4 MMF
Stockage/gestion : 18 DPU Bluefield-3 avec double liaison 800G chacun

Mesures sur le terrain :

Budget optique : 1,5 dB de perte d'insertion sur 150 m de portée OM4
BER performance: <10⁻¹⁵ sustained over 72‑hour stress tests
Densité des connecteurs : 1 908 terminaisons par rack (y compris l'alimentation)

Les meilleures pratiques consistent à expédier des assemblages de troncs de 144 fibres préterminés avec un polissage APC et à vérifier chaque connecteur par des tests de perte d'insertion/retour selon les normes TIA-568. Des équipes expérimentées de deux personnes peuvent réaliser une installation de fibre GB300 NVL72 en 2,8 heures en moyenne, contre 7,5 heures lorsque les techniciens construisent les câbles sur place.

Signal integrity insight: NVLink‑5 operates with 25 GBd PAM‑4 signaling. Typical installations maintain a 2.1 dB insertion loss budget per Twinax connection and <120 fs RMS jitter through careful cable routing and ferrite suppression.

5. Liste de contrôle du déploiement testée sur le terrain

Exigences structurelles :

Charge au sol : certifier ≥14 kN/m² (2,030 psf) ; le poids distribué dépasse celui de la plupart des installations existantes.
Contreventement sismique : Les installations en zone 4 nécessitent des contreventements en X supplémentaires selon IBC 2021.
Vibration isolation: <0.5g acceleration at 10–1000 Hz to prevent NVLink errors

Infrastructure électrique :

Deux alimentations de 415 V, 160 A chacune, avec contrôle des circuits de dérivation Schneider PM8000
Dimensionnement de l'onduleur : 150 kVA par rack (marge de sécurité de 125 %) avec topologie à double conversion en ligne
Grounding: Isolated equipment ground with <1Ω resistance to facility MGB

Spécifications de refroidissement :

Coolant quality: <50 µS/cm conductivity, 30% propylene glycol, pH 8.5–9.5
Remplacement du filtre : 5 µm plissé toutes les 1 000 heures, 1 µm final toutes les 2 000 heures
Détection des fuites : Capteurs de fluide conducteurs sur tous les raccords QDC avec une sensibilité de 0,1 ml

Inventaire des pièces détachées :

Un plateau NVSwitch (délai de livraison : 6 semaines)
Deux cartouches de pompe CDU (MTBF : 8 760 heures)
20 émetteurs-récepteurs QSFP112 (taux de défaillance sur le terrain : 0,02 % par an)
Matériau d'interface thermique d'urgence (Honeywell PTM7950, tubes de 5g)

Accord de niveau de service (SLA) pour la télémaintenance : une réponse sur site en 4 heures est en train de devenir la norme du secteur. Les principaux partenaires de déploiement maintiennent cet objectif dans plusieurs pays avec un temps de disponibilité de plus de 99 %.

6. Caractérisation des performances sous charges de production

Critères de raisonnement de l'IA (à partir de rapports sur les premiers déploiements) :

Modèle DeepSeek R1-671B : Jusqu'à 1 000 jetons/seconde en débit continu
Modèle de paramètres GPT-3 175B : 847 jetons/seconde/GPU en moyenne
Stable Diffusion 2.1 : 14,2 images/seconde à une résolution de 1024×1024
Formation ResNet-50 ImageNet : 2 340 échantillons/seconde en continu

Augmentation de l'efficacité énergétique :

Utilisation d'un seul rack : 1,42 GFLOPS/Watt à 95 % d'utilisation du GPU
Cluster de 10 baies : 1,38 GFLOPS/Watt (les frais de refroidissement réduisent l'efficacité)
Puissance réseau en veille : 3,2 kW par rack (NVSwitch + émetteurs-récepteurs)

Amélioration des performances de raisonnement de l'IA : Le GB300 NVL72 multiplie par 10 le nombre de jetons par seconde et par utilisateur et par 5 le nombre de TPS par mégawatt par rapport à Hopper, ce qui se traduit par une augmentation potentielle de 50 fois des performances de l'usine d'IA.

Effets des cycles thermiques : Après 2 000 heures de fonctionnement en production, les premiers déploiements font état d'une dégradation des performances de 0,3 % due au pompage du matériau d'interface thermique. Le remplacement programmé des matériaux d'interface thermique tous les 18 mois permet de maintenir des performances optimales.

7. Analyse du coût total de possession (TCO) de l'informatique en nuage par rapport à l'informatique sur site

Lambda propose des GPU B200 pour un prix aussi bas que 2,99 $ par heure de GPU avec des engagements pluriannuels (Lambda 2025). La modélisation financière incorporant les coûts réels des installations provenant des déploiements de l'industrie montre :

Ventilation des coûts par rack sur 36 mois :

CapEx matériel : 3,7-4,0 millions de dollars (y compris pièces de rechange et outillage) pour GB300 NVL72
Électricité de l'installation : 310 000 $ à 0,08 $/kWh avec une utilisation moyenne de 85 %.
Infrastructure de refroidissement : 180 000 dollars (CDU, plomberie, commandes)
Personnel d'exploitation : 240 000 dollars (0,25 ETP en pleine charge)
Total : 4,43-4,73 millions de dollars contre 4,7 millions de dollars pour l'équivalent dans les nuages

Le seuil de rentabilité est atteint avec un taux d'utilisation moyen de 67 % sur 18 mois, en tenant compte de l'amortissement, du financement et des coûts d'opportunité. Les directeurs financiers des entreprises bénéficient d'une meilleure prévisibilité budgétaire tout en évitant d'être dépendants d'un fournisseur de cloud.

8. GB300 vs GB200 : Comprendre Blackwell Ultra

Le GB300 NVL72 (Blackwell Ultra) représente une évolution significative par rapport au GB200 NVL72 original. Les principales améliorations sont les suivantes : 1,5 fois plus de performances de calcul pour l'IA, 288 Go de mémoire HBM3e par GPU (contre 192 Go) et une attention accrue portée à l'inférence en temps de test pour les applications de raisonnement de l'IA.

La nouvelle architecture multiplie par 10 le nombre de jetons par seconde et par utilisateur et par 5 le nombre de TPS par mégawatt par rapport à Hopper, ce qui se traduit par une augmentation potentielle de 50 fois de la production de l'usine d'IA. Le GB300 NVL72 est donc spécifiquement optimisé pour l'ère émergente du raisonnement IA, où des modèles comme DeepSeek R1 nécessitent beaucoup plus de calcul pendant l'inférence pour améliorer la précision.

Délai de disponibilité : Les systèmes GB300 NVL72 sont attendus par les partenaires au cours du second semestre 2025, alors que le GB200 NVL72 est disponible dès à présent.

9. Pourquoi les entreprises du Fortune 500 choisissent-elles des partenaires de déploiement spécialisés ?

Les principaux spécialistes du déploiement ont installé plus de 100 000 GPU dans plus de 850 centres de données, en maintenant des accords de niveau de service (SLA) mondiaux de 4 heures grâce à de vastes équipes d'ingénieurs sur le terrain. L'industrie a mis en service des milliers de kilomètres de fibre et plusieurs mégawatts d'infrastructure dédiée à l'IA depuis 2022.

Mesures de déploiement récentes :

Délai moyen de préparation du site : 6,2 semaines (contre 11 semaines en moyenne dans le secteur)
Taux de réussite au premier passage : 97,3 % pour les tests de mise sous tension
Problèmes post-déploiement : 0,08% de taux de défaillance des composants dans les 90 premiers jours

Les équipementiers livrent le matériel ; les partenaires spécialisés transforment le matériel en infrastructure de production. L'engagement d'équipes de déploiement expérimentées au cours des phases de planification peut réduire les délais de 45 % grâce à l'utilisation de faisceaux d'alimentation préfabriqués, de boucles de refroidissement préétablies et de faisceaux de fibres terminés en usine.

Réflexion finale

Une armoire GB300 NVL72 représente un changement fondamental de "serveurs dans des racks" à "centres de données dans des armoires". La physique ne pardonne pas : Une densité de calcul de 120 kW exige de la précision dans chaque connexion électrique, boucle de refroidissement et terminaison de fibre. Maîtrisez les fondamentaux de l'ingénierie dès le premier jour, et Blackwell Ultra offrira des performances de raisonnement d'IA transformatrices pour les années à venir.

Vous êtes prêt à discuter des détails techniques que nous n'avons pas réussi à faire tenir en 2 000 mots ? Nos ingénieurs de déploiement sont friands de ce genre de conversations. Planifiez un entretien technique approfondi à l'adresse suivante solutions@introl.com.

Références

Dell Technologies. 2024. "Dell AI Factory transforme les centres de données avec un refroidissement avancé, un calcul haute densité et des innovations en matière de stockage de l'IA. Communiqué de presse, 15 octobre. Salle de presse de Dell Technologies

Introl. 2025. "Déploiement de l'infrastructure GPU et ingénieurs de terrain dans le monde entier". Consulté le 23 juin. introl.com

Lambda. 2025. "Prix du cloud AI - Clusters NVIDIA B200". Consulté le 23 juin. Prix Lambda Labs

NVIDIA. 2025. "GB300 NVL72 Product Page. Consulté le 23 juin. Centre de données NVIDIA

NVIDIA. 2025. "La plateforme NVIDIA Blackwell Ultra AI Factory ouvre la voie à l'ère du raisonnement par l'IA. Communiqué de presse, 18 mars. Actualités NVIDIA

Supermicro. 2025. "Fiche technique du SuperCluster NVIDIA GB300 NVL72". Février. Fiche technique Supermicro

Le registre. 2024. Mann, Tobias. "One Rack, 120 kW of Compute : A Closer Look at NVIDIA's DGX GB200 NVL72 Beast" (Un rack, 120 kW de calcul : un regard plus attentif sur la bête NVIDIA DGX GB200 NVL72). 21 mars. The Register

Pourquoi le NVIDIA GB300 NVL72 (Blackwell Ultra) est-il important ?