News · OpenAI, Oracle und SoftBank fügen fünf neue Stargate-Standorte hinzu und heben die geplante Kapazität auf rund 7 Gigawatt

Jul, 84 Min. Lesezeit
Frontend

OpenAI, Oracle und SoftBank fügen fünf neue Stargate-Standorte hinzu und heben die geplante Kapazität auf rund 7 Gigawatt

Die Erweiterung vom 23. September dreht sich um Trainings- und Inferenzkapazität – und der Inferenz-Teil ist es, der am Ende bei den Teams ankommt, die Anwendungen tatsächlich ausliefern.

Wozu sich die Ankündigung vom 23. September tatsächlich verpflichtet

OpenAI, Oracle und SoftBank haben fünf neue Rechenzentrumsstandorte in den USA im Rahmen von Stargate angekündigt. Zusammen mit dem Vorzeigestandort in Abilene, Texas, und laufenden CoreWeave-Projekten bringt das Stargate laut OpenAI auf fast 7 Gigawatt geplante Kapazität und über 400 Milliarden Dollar Investitionen in den nächsten drei Jahren.

Das erklärte Ziel ist es, die vollständige Zusage von 500 Milliarden Dollar und 10 Gigawatt, die im Januar erstmals angekündigt wurde, noch vor Ende 2025 zu sichern – laut eigenen Angaben früher als geplant. Eine im Juli geschlossene Vereinbarung zwischen OpenAI und Oracle über den Ausbau von bis zu 4,5 zusätzlichen Gigawatt Kapazität wird als Partnerschaft mit einem Volumen von über 300 Milliarden Dollar über fünf Jahre bezeichnet.

Die Standorte lassen sich in zwei Gruppen einteilen. Drei mit Oracle verbundene Standorte – Shackelford County, Texas; Doña Ana County, New Mexico; sowie ein Standort im Mittleren Westen, der später als Wisconsin bestätigt wurde (entwickelt von Oracle zusammen mit Vantage) – plus eine mögliche Erweiterung um 600 Megawatt nahe Abilene können zusammen über 5,5 Gigawatt liefern. Zwei mit SoftBank verbundene Standorte in Lordstown, Ohio, und Milam County, Texas, können innerhalb von 18 Monaten auf 1,5 Gigawatt skaliert werden.

Die GB200-Serie ist die, die produktive Anwendungen wirklich betrifft

Der Großteil der Ankündigung dreht sich um Energie, Geld und Arbeitsplätze – über 25.000 Stellen vor Ort werden an den Standorten erwartet. Doch ein Satz ist für alle, die Inferenz produktiv betreiben, unmittelbar relevant: Oracle hat im Juni begonnen, die ersten NVIDIA-GB200-Racks in Abilene zu liefern, und OpenAI gibt an, auf dieser Kapazität bereits erste Trainings- und Inferenz-Workloads gestartet zu haben.

Für Frontend- und Anwendungsteams bleibt Trainingskapazität unsichtbar; sie zeigt sich erst Monate später in Form eines besseren Modells. Bei Inferenzkapazität ist das anders. Sie ist der limitierende Faktor hinter Rate Limits, Antwortlatenz und der Frage, ob eine Funktion auch bei einem Traffic-Spitzenwert verfügbar bleibt. Die Ankündigung verknüpft die neuen Standorte ausdrücklich mit Inferenz, nicht nur mit Training.

Diese Unterscheidung ist wichtig, weil die hier aufgebaute physische Infrastruktur genau das ist, worauf die API basiert, von der ein Produkt abhängt. Wenn ein Stargate-Standort Inferenzkapazität in Betrieb nimmt, bedeutet das in der Praxis mehr Spielraum bei den Endpunkten, die Anwendungscode bereits aufruft.

'Fast-Build' und Kosteneffizienz als Infrastrukturversprechen

Die mit SoftBank verbundenen Standorte werden in operativen Begriffen beschrieben: Lordstown setzt auf ein 'fortschrittliches Rechenzentrumsdesign' und soll im kommenden Jahr betriebsbereit sein, während Milam County als 'Fast-Build'-Standort mit von SB Energy bereitgestellter Energieinfrastruktur gilt. OpenAI bezeichnet beide als Schritte hin zu 'schnellerer Bereitstellung, größerer Skalierbarkeit und verbesserter Kosteneffizienz – damit Hochleistungs-Computing breiter zugänglich wird.'

Um dieser enormen Nachfrage gerecht zu werden, bauen wir die Präsenz von OCI weiterhin in einem beispiellosen Tempo aus, um das leistungsstärkste und kosteneffizienteste KI-Training und -Inferencing zu liefern.— Clay Magouyrk, CEO von OracleMontana Labs

'Kosteneffizientes Inferencing' ist die Formulierung, die man sich merken sollte. Die Ankündigung nennt keine Preise pro Token, ändert also heute noch nichts an einem Budget. Doch die erklärte Absicht – günstigere Inferenz in größerem Maßstab – ist der Mechanismus, über den Kapazitätsankündigungen letztlich die Produktökonomie erreichen.

Worauf Frontend-Teams achten sollten, während die Standorte in Betrieb gehen

Nichts davon ist am Tag der Ankündigung bereits für ein Produkt nutzbar. Abilene läuft auf OCI; die anderen fünf Standorte reichen von 'betriebsbereit im kommenden Jahr' bis 'noch in Prüfung'. Schon der Auswahlprozess selbst – über 300 Vorschläge aus mehr als 30 Bundesstaaten, mit weiteren Standorten in Aussicht – zeigt, dass es sich um einen mehrjährigen Ausbau handelt und nicht um das Umlegen eines Schalters.

Die konkrete Konsequenz für Teams, die auf OpenAI aufbauen: Die Inferenzkapazität wird ausgebaut und geografisch verteilt, und die ersten GB200-Inferenz-Workloads laufen bereits. Sinnvoll ist es, davon auszugehen, dass sich Spielraum bei Rate Limits und Latenz im Laufe des Ausbaus verbessern wird – gleichzeitig sollte man aber weiterhin so planen, dass die heutigen Einschränkungen gelten, bis konkrete Standorte Inferenz tatsächlich in Betrieb melden.

Find this story relevant to you?

Contact us to find a unique solution

Contact us

Brauchen Sie einen KI-Engineering-Partner, der auch liefern kann?

Wir helfen Unternehmen dabei, KI in Produkte und Prozesse zu integrieren, wertvolle Workflows zu automatisieren und die zugrunde liegenden Softwaresysteme zu modernisieren.

Get in touch

Weiterführende Beiträge

Weitere Analysen rund um Produktbereitstellung, operative KI und die Systemarbeit, die dafür sorgt, dass der Einsatz in der Praxis Bestand hat.

Jul, 134 Min. Lesezeit
Frontend

DNP führte ChatGPT Enterprise in zehn Abteilungen ein und machte das Chatfenster zur zentralen Oberfläche

Jul, 134 min to read
Frontend

AdventHealth deploys ChatGPT across nine states by treating adoption as the product

Jul, 134 Min. Lesezeit
Frontend

AP+ nutzt Codex, um funktionierende Zahlungsprototypen zu bauen – nicht nur klickbare Bildschirme