OpenAI, Oracle e SoftBank acrescentam cinco novos sites Stargate, elevando a capacidade prevista para quase 7 gigawatts

O que o anúncio de 23 de setembro compromete de facto

OpenAI, Oracle e SoftBank anunciaram cinco novos sites de data centers nos EUA no âmbito do Stargate. Combinados com o campus principal em Abilene, no Texas, e os projetos em curso com a CoreWeave, a OpenAI afirma que isto eleva o Stargate para quase 7 gigawatts de capacidade prevista e mais de 400 mil milhões de dólares de investimento nos próximos três anos.

O objetivo declarado é garantir, até ao final de 2025, o compromisso total de 500 mil milhões de dólares e 10 gigawatts anunciado em janeiro — descrito como estando a decorrer adiantado em relação ao calendário previsto. Um acordo de julho entre a OpenAI e a Oracle para desenvolver até 4,5 gigawatts de capacidade adicional é apresentado como uma parceria que supera os 300 mil milhões de dólares ao longo de cinco anos.

Os sites dividem-se em dois grupos. Três localizações ligadas à Oracle — no condado de Shackelford, Texas; no condado de Doña Ana, Novo México; e um site no Midwest posteriormente confirmado como sendo no Wisconsin (desenvolvido pela Oracle em conjunto com a Vantage) — mais uma possível expansão de 600 megawatts perto de Abilene, podem fornecer mais de 5,5 gigawatts. Dois sites em parceria com a SoftBank, em Lordstown, Ohio, e no condado de Milam, Texas, podem escalar até 1,5 gigawatts num período de 18 meses.

A linha GB200 é a que toca diretamente as aplicações em produção

A maior parte do anúncio centra-se em energia, investimento e emprego — prevêem-se mais de 25.000 postos de trabalho no local, distribuídos pelos vários sites. Mas há uma frase diretamente relevante para quem executa inferência em produção: a Oracle começou a entregar as primeiras racks NVIDIA GB200 em Abilene em junho, e a OpenAI afirma já ter iniciado cargas de trabalho iniciais de treino e inferência nessa capacidade.

Para as equipas de frontend e de aplicações, a capacidade de treino é invisível; só se manifesta meses depois, sob a forma de um modelo melhor. A capacidade de inferência não é assim. É ela que determina os limites de taxa, a latência das respostas e se uma funcionalidade se mantém disponível sob picos de tráfego. O anúncio associa explicitamente os novos sites à inferência, e não apenas ao treino.

Essa distinção é importante porque a infraestrutura física agora construída é o que sustenta a API de que um produto depende. Quando um site Stargate ativa capacidade de inferência, o efeito prático a jusante é mais margem disponível nos endpoints que o código da aplicação já utiliza.

'Construção rápida' e eficiência de custos como argumento de infraestrutura

Os sites em parceria com a SoftBank são descritos em termos operacionais: Lordstown utiliza um 'design avançado de data center' com previsão de entrar em funcionamento no próximo ano, e o site no condado de Milam é descrito como de 'construção rápida', com infraestrutura energética fornecida pela SB Energy. A OpenAI apresenta ambos como passos rumo a 'implementação mais rápida, maior escalabilidade e maior eficiência de custos — tornando a computação de alto desempenho mais acessível.'

Para satisfazer esta enorme procura, continuamos a expandir a presença da OCI a um ritmo sem precedentes, de forma a disponibilizar o treino e a inferência de AI (mantém-se o acrónimo em inglês) mais eficientes e com melhor relação custo-desempenho.— Clay Magouyrk, CEO da OracleMontana Labs

'Inferência eficiente em termos de custo' é a expressão a reter. O anúncio não apresenta qualquer preço por token, por isso nada disto altera, hoje, qualquer orçamento. Mas a intenção declarada — inferência mais económica a maior escala — é o mecanismo pelo qual anúncios de capacidade acabam por se refletir na economia dos produtos.

O que as equipas de frontend devem observar à medida que os sites entram em funcionamento

Nada disto está disponível para um produto no dia do anúncio. Abilene já opera sobre a OCI; os restantes cinco sites vão desde entrada em funcionamento prevista para o próximo ano até estarem ainda em avaliação. O próprio processo de seleção — mais de 300 propostas provenientes de mais de 30 estados, com mais sites ainda por anunciar — indica tratar-se de uma construção a decorrer ao longo de vários anos, e não de um interruptor que se liga de uma só vez.

A implicação concreta para as equipas que constroem sobre a OpenAI é a seguinte: a capacidade de inferência está a ser expandida e distribuída geograficamente, e as primeiras cargas de trabalho de inferência em GB200 já estão em funcionamento. A postura útil é considerar que a margem nos limites de taxa e a latência deverão aliviar-se ao longo desta janela de construção, ao mesmo tempo que se continua a projetar tendo em conta que as restrições atuais se mantêm válidas até que sites específicos reportem a inferência já ativa.