La course à l’armement de l’infrastructure de l’IA s’accélère : Nvidia lance Spectrum-6, la concurrence en puissance de calcul entre dans une nouvelle ère du milliard de watts

La compétition autour des infrastructures d’IA franchit un nouveau seuil de puissance.

Nvidia a récemment lancé officiellement le nouveau commutateur Ethernet Spectrum-6, destiné aux usines d’IA d’un milliard de watts, doublant la bande passante réseau par rapport à la génération précédente, avec une adoption précoce par des leaders tels que CoreWeave, Microsoft, Nebius, SpaceX AI et Tesla.

Spectrum-6 est un commutateur Ethernet d’une capacité de 102,4 T, conçu spécifiquement pour la plateforme Vera Rubin de Nvidia et constitue le cœur de la nouvelle génération de plateformes Ethernet Spectrum-X. Avec l’expansion mondiale de la taille des usines d’IA vers des centaines de milliers de GPU fonctionnant en simultané, Nvidia positionne le réseau comme une variable clé influençant la production totale de puissance de calcul, et non simplement comme un composant de couche de connexion.

CoreWeave, Microsoft et Nebius seront parmi les premiers fournisseurs de services cloud à déployer l’infrastructure Vera Rubin basée sur Spectrum-6, offrant un accès à la plateforme pour les développeurs, les start-up et les utilisateurs d’entreprise. Ce calendrier de déploiement signifie que la mise en œuvre commerciale d’infrastructures de calcul d’IA de plusieurs milliards de watts s’accélère, impactant directement la structure de l’offre en puissance de calcul ainsi que le rythme des dépenses en capital associées.

La logique sous-jacente du lancement du Spectrum-6 par Nvidia provient du conflit structurel entre les caractéristiques de communication des charges de travail d’entraînement et d’inférence IA à grande échelle et l’architecture réseau traditionnelle.

Les tâches d’IA à grande échelle exigent des milliers d’accélérateurs échangeant fréquemment des données. Les opérations de communication collective génèrent une grande quantité de trafic est-ouest, et plusieurs flux de tâches sont généralement transmis en parallèle dans le système. L’Ethernet traditionnel a été initialement conçu pour supporter le trafic nord-sud des entreprises, et non pour optimiser les modèles de communication synchrones et intensifs des charges IA.

La plateforme Ethernet Spectrum-X a été conçue pour combler cette lacune. Selon Nvidia, par rapport à l’Ethernet conventionnel, Spectrum-X peut fournir jusqu’à 1,6 fois la performance réseau IA, maintenant une efficacité réseau jusqu’à 95 % sur des déploiements de plus de 100 000 GPU. La topologie multi-plans accélérée par le matériel Spectrum-X peut réduire de 40 % le nombre de commutateurs requis dans les centres de données, et les technologies de silicium optique offrent un gain d’efficacité énergétique de 5 fois et une augmentation du temps moyen entre les pannes de 10 fois, réduisant encore davantage les coûts opérationnels.

Laurelle Roseman, vice-présidente des partenariats mondiaux chez Nebius, déclare :

"Dans des systèmes de puissance du milliard de watts, la collaboration détermine la performance globale : garder chaque GPU toujours synchronisé et éviter que le moindre élément lent ne ralentisse l’ensemble du travail. C’est précisément l’objectif visé par le Spectrum-6 de Nvidia et la raison pour laquelle nous avons choisi de l’adopter en priorité."

La liste des adopteurs du Spectrum-6 esquisse la configuration actuelle du pouvoir mondial dans la construction des infrastructures IA. La mobilisation collective de CoreWeave, Microsoft, Nebius, SpaceX AI et Tesla signifie que le produit a déjà été validé au niveau de déploiement commercial massif, plutôt que d’en rester au stade de la simple prévisualisation technique.

Min Jun, directeur des produits réseau chez CoreWeave, déclare :

"Intégrer le Spectrum-6 de Nvidia et l’infrastructure Ethernet Spectrum-X refroidie par liquide à notre usine d’IA permet d’offrir une bande passante, une fiabilité et une efficacité accrues, ce qui nous aide à mieux servir nos clients pour l’entraînement des modèles et à déployer plus rapidement les services d’inférence."

Pour les fournisseurs de services cloud, la valeur fondamentale de Spectrum-6 réside dans l’unification d’un plus grand nombre de GPU en un pool de ressources haute performance et planifiables, impactant directement la durée des cycles d’entraînement des modèles et la vitesse de réponse des services d’inférence. Pour les entreprises IA dotées d’infrastructures autonomes, cela signifie réaliser un taux d’utilisation système plus élevé dans les tâches à opérations collectives intensives et améliorer la stabilité des tâches d’entraînement prolongées — les deux conduisant à une exécution plus rapide des opérations et à un coût de token unitaire plus faible.

Spectrum-6 n’est pas un produit isolé, mais un composant de la couche réseau de la plateforme de calcul globale Vera Rubin de Nvidia. La plateforme intègre le CPU Vera, le GPU Rubin, le commutateur NVLink 6, le ConnectX-9 SuperNIC, le DPU BlueField-4 et le commutateur Ethernet Spectrum-6, constituant un système complet conçu en collaboration de bout en bout.

La puce commutatrice Spectrum-6 et le ConnectX-9 SuperNIC forment la base matérielle de la nouvelle génération d’Ethernet Spectrum-X. Sur le plan logiciel, la plateforme associe commutateurs intelligents et logiciel réseau à pile complète, prenant en charge l’équilibrage intelligent du trafic et le rétablissement rapide en cas de défaillance.

En termes de configuration et de conception de dissipation thermique, Spectrum-6 prend en charge deux spécifications : l’emballage enfichable et l’intégration opto-électronique, et propose des solutions de refroidissement par liquide, permettant intégration à un déploiement de refroidissement liquide de bout en bout dans les usines d’IA, augmentant ainsi l’efficacité globale.

Nvidia définit cette méthode de conception comme une « intégration verticale, ouverture horizontale » : au niveau de la plateforme de calcul complète, les puces, systèmes et logiciels sont conçus en collaboration, tout en restant compatibles avec l’Ethernet standard, les systèmes d’exploitation réseau ouverts et les protocoles ouverts, soutenant l’écosystème élargi des fournisseurs de services cloud, fabricants de systèmes et partenaires d’infrastructure. Nvidia affirme que les clients bénéficient d’une plateforme d’usine IA complète, sans avoir à intégrer ou optimiser eux-mêmes des composants disparates.