Google divide sua linha de TPUs em chips de treinamento e inferência para cargas de trabalho agênticas

Dois chips, dois trabalhos

O anúncio do Google apresenta dois chips TPU distintos com funções claramente separadas. A 8t é descrita como otimizada para treinamento, capaz de executar "até os modelos mais complexos em um único e enorme pool de memória". A 8i tem foco na outra ponta do ciclo de vida: ajudar agentes de IA a "concluir isso rapidamente para oferecer uma boa experiência ao usuário".

Essa divisão é o cerne da notícia. Em vez de escalar um único acelerador de uso geral, o Google está lançando uma peça para treinamento e outra para inferência, projetadas segundo restrições diferentes. O atributo central da 8t é a memória — um pool unificado grande o suficiente para conter modelos grandes sem precisar particioná-los. O atributo central da 8i é a velocidade no momento da execução.

Por que o enquadramento em agentes muda o alvo

O Google situa a 8i explicitamente no comportamento de agentes. O texto descreve agentes que "raciocinam, planejam e executam fluxos de trabalho multietapas", posicionando a 8i para rodar essas etapas rápido o suficiente para parecer responsiva.

Isso importa porque um agente multietapas não é uma única chamada de inferência — são várias, encadeadas, com a latência de cada etapa se somando à anterior. Uma carga de trabalho formada por dezenas de chamadas sequenciais a modelos é muito mais sensível à velocidade por chamada do que a resposta única de um chatbot. Projetar um chip especificamente para esse padrão é uma aposta de que a execução de agentes, e não a geração de uma única resposta, é a carga de volume para a qual vale a pena se planejar.

O chip é uma camada dentro de uma pilha maior

O Google tem o cuidado de não apresentar o silício isoladamente. O anúncio conecta as duas TPUs a uma "infraestrutura full-stack desenvolvida para esse propósito — de redes a data centers e operações com eficiência energética".

Junto com nossa infraestrutura full-stack desenvolvida para esse propósito — de redes a data centers e operações com eficiência energética — elas formam o motor de base que vai nos permitir levar uma IA agêntica altamente responsiva para as massas.Montana Labs

A expressão "para as massas" é a aposta de escala. Execução rápida de agentes em volume de consumo é tanto um problema de data center e de rede quanto um problema de chip, e o anúncio enquadra as TPUs como o motor dentro desse sistema maior, e não como um produto isolado.

O que a divisão treinamento/inferência sinaliza para times que constroem agentes

O anúncio é econômico em números — não há benchmarks, velocidades de clock ou capacidades de memória informadas, então qualquer comparação de desempenho seria especulação. O que é concreto é a decisão arquitetural: o Google agora trata a inferência de agentes como uma carga de trabalho que merece silício dedicado próprio, separado do treinamento.

Para times que projetam sistemas agênticos, isso reforça uma realidade de planejamento em torno da qual o roteiro de hardware agora é construído: o custo e a latência de um agente em produção são governados por etapas de inferência encadeadas, não por uma única chamada de modelo. O fato de o Google ter construído a 8i exatamente para esse formato é um sinal útil de onde vai estar a carga sustentada — e o gasto sustentado — quando os agentes rodarem em escala.