Das Wettrüsten um KI-Infrastruktur beschleunigt sich: Nvidia bringt Spectrum-6 auf den Markt, der Wettbewerb um Rechenleistung tritt in ein neues Zeitalter von einer Milliarde Watt ein

Der Wettbewerb um die KI-Infrastruktur überschreitet gerade eine neue Größenordnung.

Nvidia hat kürzlich offiziell den neuen Ethernet-Switch Spectrum-6 für KI-Fabriken im Milliarden-Watt-Bereich vorgestellt. Die Netzwerkbandbreite wurde im Vergleich zur Vorgängergeneration verdoppelt und führende KI-Infrastruktur-Unternehmen wie CoreWeave, Microsoft, Nebius, SpaceX AI und Tesla haben ihn bereits als Erste eingesetzt.

Spectrum-6 ist ein Ethernet-Switch mit einer Kapazität von 102,4T, speziell entwickelt für die Nvidia Vera Rubin-Plattform und bildet das Kernstück der neuen Generation der Spectrum-X Ethernet-Plattform. Mit der Ausweitung von KI-Fabriken auf zehntausende gleichzeitige GPU-Prozesse hat Nvidia das Netzwerk als entscheidende Variable für die gesamte Rechenleistung positioniert – und nicht nur als Verbindungskomponente.

CoreWeave, Microsoft und Nebius werden die ersten Cloud-Service-Anbieter sein, die Vera Rubin-Infrastruktur auf Basis von Spectrum-6 einsetzen und Entwicklern, Startups sowie Unternehmen den Zugang zur Plattform ermöglichen. Diese Zeitschiene der Implementierung zeigt, dass die kommerzielle Umsetzung von KI-Infrastrukturen im Milliarden-Watt-Bereich beschleunigt wird und beeinflusst die Struktur des Angebots an Rechenleistung sowie das Tempo der entsprechenden Kapitalinvestitionen direkt.

Die Einführung von Spectrum-6 durch Nvidia basiert auf dem strukturellen Konflikt zwischen den Kommunikationsanforderungen groß angelegter KI-Trainings- und Inferenz-Workloads und herkömmlichen Netzwerkarchitekturen.

Große KI-Aufgaben verlangen von Tausenden von Acceleratoren einen häufigen Datenaustausch; kollektive Kommunikationsoperationen erzeugen massiven Ost-West-Traffic, und im System gibt es meist mehrere gleichzeitige Traffic-Übertragungen verschiedener Tasks. Herkömmliches Ethernet wurde ursprünglich für den Nord-Süd-Traffic von Unternehmen entwickelt und ist nicht für das synchronisationsintensive Kommunikationsmodell von KI-Workloads optimiert.

Die Spectrum-X Ethernet-Plattform wurde entwickelt, um diese Kluft zu überbrücken. Laut Nvidia liefert Spectrum-X im Vergleich zu generischem Ethernet bis zu 1,6-fache KI-Netzwerkleistung und hält eine Netzwerkeffizienz von bis zu 95 % bei Implementierungen mit über 100.000 GPUs. Die hardwarebeschleunigte, mehrschichtige Topologie von Spectrum-X ermöglicht eine Reduzierung der benötigten Switch-Anzahl im Rechenzentrum um 40 %. Hinzu kommen eine bis zu fünffache Steigerung der Energieeffizienz durch Silizium-Photonik und eine zehnfache Erhöhung der durchschnittlichen mittleren störungsfreien Betriebszeit, was die Betriebskosten weiter senkt.

Laurelle Roseman, Vice President für globale Partnerschaften bei Nebius, kommentierte:

"In Systemen im Milliarden-Watt-Bereich entscheidet die Zusammenarbeit über die Gesamtleistung: Die Synchronisierung jeder einzelnen GPU in Echtzeit, um das gesamte Arbeitsergebnis nicht durch ein langsames Glied auszubremsen. Genau das ist das Ziel von Nvidia Spectrum-6 – und daher haben wir es als Erste eingesetzt."

Die Liste der Anwender von Spectrum-6 skizziert die aktuelle globale Landschaft der KI-Infrastruktur. Die gemeinsame Einführung durch CoreWeave, Microsoft, Nebius, SpaceX AI und Tesla zeigt, dass dieses Produkt die groß angelegte kommerzielle Implementierung bestanden hat und nicht länger nur als technische Vorschau gilt.

Min Jun, Direktor für Netzwerkprodukte bei CoreWeave, erklärte:

"Die Integration von Nvidia Spectrum-6 und der flüssigkeitsgekühlten Spectrum-X Ethernet-Infrastruktur in unsere KI-Fabriken ermöglicht eine höhere Bandbreite, Zuverlässigkeit und Effizienz – das hilft uns, Kunden bessere Model-Trainings anzubieten und Inferenzdienste schneller bereitzustellen."

Für Cloud-Service-Anbieter liegt der Kernnutzen von Spectrum-6 darin, mehr GPUs zu einem einheitlich steuerbaren Hochleistungs-Resource-Pool zu vereinen, was den Zyklus der Model-Trainings und die Antwortzeiten der Inferenzdienste direkt beeinflusst. Für KI-Unternehmen mit eigener Infrastruktur bedeutet dies eine höhere Systemauslastung bei kollaborativen, operation-intensiven Aufgaben und eine verbesserte Stabilität bei lang Zeiträumen für Trainings – beides zahlt letztlich auf schnellere Job-Bearbeitung und geringere Token-Kosten ein.

Spectrum-6 ist kein Einzelprodukt, sondern der Netzwerkteil der Nvidia Vera Rubin Computing-Plattform. Die Plattform integriert Vera CPU, Rubin GPU, NVLink 6 Switch, ConnectX-9 SuperNIC, BlueField-4 DPU und Spectrum-6 Ethernet-Switch, um ein vollständig koordinierendes End-to-End-System zu schaffen.

Das Zusammenspiel zwischen Spectrum-6 Switch-Chip und ConnectX-9 SuperNIC bildet die Hardwarebasis der neuen Generation des Spectrum-X Ethernets. Auf Softwareebene kombiniert die Plattform intelligente Switches mit Full-Stack-Netzwerksoftware und ermöglicht intelligentes Lastenausgleichsmanagement sowie schnelle Umleitung und Wiederherstellung bei Netzwerk-Ausfällen.

Was Design und Kühlung betrifft, unterstützt Spectrum-6 sowohl steckbare als auch integrierte optoelektronische Verpackungen sowie Flüssigkeitskühlung. Dies ermöglicht eine durchgängige Flüssigkeitskühlung in KI-Fabriken und verbessert die Gesamtenergieeffizienz.

Nvidia definiert diesen Designansatz als „vertikale Integration, horizontale Offenheit“: Am gesamten Plattform-Level werden Chips, Systeme und Software koordiniert entworfen, gleichzeitig bleibt die Kompatibilität zu Standard-Ethernet, offenen Netzwerkbetriebssystemen und offenen Protokollen bestehen. Dadurch unterstützt das Unternehmen das breite Ökosystem der Cloud-Service-Anbieter, Systemhersteller und Infrastrukturpartner. Nvidia zufolge erhalten Kunden so eine komplette KI-Fabrik-Plattform und müssen keine einzelnen Komponenten selbst optimieren und zusammenstellen.