Meta pianifica quattro generazioni di chip MTIA in due anni, con priorità sull'inferenza

Una cadenza di sei mesi invece di uno o due anni

Meta afferma di stare sviluppando e distribuendo quattro nuove generazioni di MTIA nel giro di due anni — MTIA 300, 400, 450 e 500. Lo fa notare in contrasto con quella che definisce la norma del settore, un nuovo chip IA ogni uno o due anni, sostenendo di aver costruito la capacità di rilasciarne uno ogni sei mesi o meno.

Il meccanismo a cui attribuisce il merito è la modularità: design riutilizzabili che permettono ai nuovi chip di inserirsi nell'infrastruttura di rack già esistente. Questo dettaglio conta più del numero in sé, perché una cadenza di produzione rapida serve a poco se la messa in produzione non tiene il passo. Allineando rack e sistemi agli standard dell'Open Compute Project, Meta cerca di eliminare il passaggio di integrazione nei data center che di solito rallenta l'ingresso in produzione di nuovo silicio.

MTIA 300 è già in produzione per il training di ranking e raccomandazioni. Gli altri tre sono destinati all'inferenza GenAI fino al 2027, quindi il piano biennale è in realtà un calendario di generazioni sovrapposte più che il lancio di un singolo grande prodotto.

Progettato prima di tutto per l'inferenza, non per il training

L'affermazione architetturale più netta è un'inversione dell'ordine di priorità abituale. Meta sostiene che i chip mainstream vengono costruiti per il carico di lavoro più esigente — il pre-training GenAI su larga scala — e poi riutilizzati, spesso con costi meno efficienti, per l'inferenza.

Noi facciamo l'opposto: MTIA 450 e 500 sono ottimizzati prima di tutto per l'inferenza GenAI, e possono poi essere usati per supportare altri carichi di lavoro quando serve, incluso il training e l'inferenza per ranking e raccomandazioni, così come il training GenAI.Montana Labs

È una scommessa su dove sta crescendo la domanda. Meta distribuisce già centinaia di migliaia di chip MTIA per l'inferenza su contenuti organici e pubblicità, quindi ha a disposizione un carico di lavoro ampio e ben conosciuto su cui calibrare i chip. Ottimizzare prima per l'inferenza significa far coincidere i chip con precisione al carico di lavoro più voluminoso, trattando il training come capacità secondaria e non come centro del design.

Un portafoglio, non un sostituto del silicio di terze parti

Meta è chiara sul fatto che MTIA non sostituisce i chip che acquista da altri fornitori. Descrive un approccio a portafoglio — approvvigionarsi di silicio da diversi leader del settore mantenendo MTIA al centro — affermando apertamente che nessun singolo chip può soddisfare tutte le sue esigenze.

Questo posizionamento fissa un obiettivo di successo più circoscritto per il programma proprietario. MTIA non deve superare gli acceleratori general-purpose su ogni carico di lavoro; deve essere più efficiente in termini di costi sui compiti di inferenza specifici e ad alto volume di Meta. L'azienda attribuisce il vantaggio di costo di MTIA al fatto di far parte di una soluzione full-stack proprietaria, non a performance di picco pure e semplici.

Il software standard come leva per l'adozione

Per i team che costruiscono su questo tipo di infrastruttura, il dettaglio più pratico è che MTIA è basato fin dall'inizio su PyTorch, vLLM, Triton e OCP. Gli acceleratori proprietari in genere si arenano sul software — toolchain proprietari costringono i team che lavorano sui modelli a riscrivere codice e ricalibrare kernel prima di poter adottare il nuovo hardware.

Impegnandosi sull'ecosistema di framework già esistente, Meta cerca di rendere invisibile il cambio di hardware a chi gestisce i modelli. Questo è ciò che rende realistica, internamente, una cadenza di sei mesi: se ogni nuovo chip non richiede alcun lavoro di porting aggiuntivo, le generazioni possono avvicendarsi rapidamente senza lasciare per strada i carichi di lavoro che vi girano sopra. La roadmap dei chip e l'impegno sul software sono due facce della stessa strategia — la velocità è reale solo nella misura in cui elimina l'attrito nell'adozione.