NVIDIA DSX: WIE KI-FABRIKEN MEHR TOKENS PRO MEGAWATT PRODUZIEREN

Das Wichtigste

Strom ist der limitierende Faktor der KI-Industrie geworden. NVIDIA zeigt mit seiner DSX-Plattform, wie sich aus einem festen Energiebudget deutlich mehr Rechenleistung herausholen lässt, teils ohne ein einziges zusätzliches Gigawatt Netzanschluss.

Was ist passiert?

In Santa Clara hat der Energieversorger Silicon Valley Power im August erstmals live ein KI-Rechenzentrum per Signal gedrosselt, ohne dass ein Mensch eingreifen musste. Die Software Conductor von NVIDIA-Partner Emerald AI reagierte in unter einer Minute, verschob niedrig priorisierte Jobs und hielt kritische Inferenz-Workloads am Laufen. Der Verbrauch sank von vier auf drei Megawatt, mehr als 200 solcher Signale wurden seither erfolgreich verarbeitet.

Parallel dazu stellte NVIDIA-VP Ian Buck auf dem AI Infra Summit die neue Plattform DSX ins Zentrum seiner Keynote. Cloud-Anbieter Lambda lieferte dazu handfeste Zahlen: Mit dem Modul DSX MaxLPS liefen 19 GPU-Knoten im selben Strombudget wie zuvor 16 Knoten bei voller Leistung. Ergebnis: 24 Prozent mehr Token-Durchsatz clusterweit, von rund 4 auf 5 Millionen Tokens pro Sekunde, bei 23 Prozent besserer Effizienz pro Watt.

Technische Details

DSX MaxLPS überwacht Stromverbrauch auf GPU- und Rack-Ebene und verteilt Leistungsreserven dynamisch zwischen Trainings- und Inferenz-Workloads, die Strom unterschiedlich abrufen. Statische Provisionierung lässt laut NVIDIA Kapazität ungenutzt liegen, MaxLPS holt sie zurück. Für die kommende Vera Rubin NVL72-Generation prognostiziert NVIDIA bis zu 40 Prozent mehr GPU-Kapazität im gleichen Megawatt-Budget.

Daneben steht DSX Flex für Netzflexibilität, wie in Santa Clara demonstriert. Der erste dedizierte Flex-Rollout entsteht in Manassas, Virginia: eine 96-Megawatt-Anlage mit Vera-Rubin-Chips am neuen AI Factory Research Center von NVIDIA. Langfristig soll eine 800V-DC-Architektur die Umwandlungsverluste bei der Stromverteilung reduzieren und dichtere Racks ermöglichen, sie ist bereits Teil der DSX-Referenzdesigns.

Warum ist das relevant?

Jensen Huangs Satz bringt es auf den Punkt: Eine Ein-Gigawatt-Fabrik wird nie eine Zwei-Gigawatt-Fabrik. Neue Übertragungsleitungen zu bauen dauert Jahre, oft ein Jahrzehnt. Wer also mehr Tokens aus dem gleichen Netzanschluss herausholt, gewinnt Zeit und Kapazität, die sonst schlicht nicht verfügbar wäre.

Für Betreiber von Rechenzentren und GPU-Clouds im DACH-Raum, wo Netzanschlusskapazität ebenfalls ein Flaschenhals ist, liefert das ein konkretes Modell: Workload-Priorisierung und Grid-Kooperation als Wettbewerbsvorteil statt reiner Hardware-Frage. Wer flexibel abrufbar ist, bekommt laut NVIDIA im Gegenzug Zugang zu mehr Leistung.

Take-Away

Work per Gigawatt wird zur zentralen Kennzahl der KI-Infrastruktur. Unternehmen, die eigene KI-Fabriken planen oder GPU-Kapazität einkaufen, sollten Energieeffizienz-Software wie DSX MaxLPS und Grid-Flexibilität als festen Bestandteil ihrer Infrastrukturstrategie behandeln, nicht als Nebenschauplatz.