Meta e a Arm desenvolvem em conjunto a CPU Arm AGI para centros de dados da era da AI (keep the English acronym)

Aquilo a que a Meta se comprometeu de facto

A Meta anunciou uma parceria com a Arm para desenvolver em conjunto o que descreve como uma nova classe de CPUs para centros de dados e implementações de AI (keep the English acronym) em grande escala. O compromisso não se limita a um único chip, mas sim a um roteiro: a Meta afirma que vai desenvolver "várias gerações" de CPUs com a Arm, apresentando a colaboração como uma relação de engenharia contínua e não uma aquisição isolada.

O primeiro lançamento é a Arm AGI CPU, descrita como a primeira CPU da Arm para centros de dados concebida especificamente para a era da AI (keep the English acronym). A Meta afirma que atua como parceiro principal e co-criador, e que o chip foi construído para otimizar a infraestrutura da sua família de aplicações, funcionando em conjunto com o silício MTIA já desenvolvido internamente pela Meta. O posicionamento é claro: esta CPU destina-se a complementar os aceleradores que a Meta já constrói, não a substituí-los.

Trabalhámos em conjunto com a Arm para desenvolver a Arm AGI CPU, de modo a implementar uma plataforma de computação eficiente que melhora significativamente a densidade de desempenho dos nossos centros de dados e sustenta um roteiro de várias gerações para os nossos sistemas de AI (keep the English acronym) em evolução. — Santosh Janardhan, Head of Infrastructure, MetaMontana Labs

Densidade e eficiência energética, não desempenho máximo

A linguagem que a Meta utiliza é reveladora. Em vez de reivindicar velocidade bruta, a empresa dá destaque a "enorme capacidade de computação em espaço limitado", "densidade de desempenho" e "desempenho por rack mais rápido e muito mais eficiente do que as CPUs tradicionais". O problema apontado é que os centros de dados da Meta estão a "ultrapassar as capacidades das CPUs tradicionais" à medida que avança para implementações à escala de gigawatts.

Trata-se de um argumento sobre espaço físico e consumo energético, não sobre benchmarks de desempenho. Quando a limitação está nos watts por rack e no número de racks por edifício, a escolha da CPU passa a ser uma forma de encaixar mais capacidade de computação útil num espaço físico e elétrico fixo. A Meta está a indicar-nos que o principal ponto de estrangulamento que sente é a eficiência à escala, e que é isso que a relação com a Arm foi concebida para resolver.

O lançamento através do Open Compute Project muda quem beneficia

Duas revelações alargam o âmbito para além dos racks da própria Meta. Primeiro, a Arm afirma que a Arm AGI CPU estará disponível para todo o ecossistema de AI (keep the English acronym) através da Arm. Segundo, a Meta afirma que vai divulgar os designs de placas e racks do chip através do Open Compute Project ainda este ano.

Isto significa que a Meta não está apenas a garantir uma vantagem exclusiva; está a co-desenvolver uma plataforma de referência que outros operadores poderão adotar. Para as equipas que constroem sobre a infraestrutura, em vez de a possuírem, um design de placa e rack publicado pela OCP é um indicador do que a computação de base para a era da AI (keep the English acronym) poderá vir a ser em breve — a mesma eficiência que a Meta está a otimizar poderá tornar-se hardware amplamente disponível.

Por que razão o frontend das experiências de AI (keep the English acronym) depende disto

A Meta associa todo este esforço a um objetivo orientado para o utilizador final: disponibilizar experiências de AI (keep the English acronym) a "biliões de pessoas" e permitir uma "superinteligência pessoal para todos". Essa ligação é relevante para quem constrói interfaces de produtos de AI (keep the English acronym). A capacidade de resposta, o custo e a disponibilidade de uma funcionalidade de chat, agente ou recomendação dependem diretamente de quanta inferência cabe por rack e da eficiência com que essa inferência é executada.

A implicação concreta é que a Meta está a tratar a CPU de uso geral — e não apenas o acelerador — como uma palanca para aquilo que a sua AI (keep the English acronym) orientada ao consumidor pode permitir-se fazer à escala. Ao associar a Arm AGI CPU à MTIA e ao levar o design para o OCP, tudo indica que a economia de fornecimento do setor está a ser remodelada ao nível da CPU — precisamente a camada que define os orçamentos de latência e de custo unitário que as equipas de frontend herdam quando decidem que experiências são viáveis de lançar.