Η Meta σχεδιάζει τέσσερις γενιές τσιπ MTIA σε δύο χρόνια, δίνοντας προτεραιότητα στο inference

Ρυθμός κυκλοφορίας τσιπ κάθε έξι μήνες αντί για ένα με δύο χρόνια

Η Meta δηλώνει ότι αναπτύσσει και θέτει σε λειτουργία τέσσερις νέες γενιές MTIA εντός δύο ετών —MTIA 300, 400, 450 και 500. Το τοποθετεί σε αντιδιαστολή με τον, όπως λέει, καθιερωμένο κλαδικό κανόνα μιας νέας ΤΝ τσιπ κάθε ένα με δύο χρόνια, υποστηρίζοντας ότι έχει χτίσει την δυνατότητα να κυκλοφορεί ένα νέο τσιπ κάθε έξι μήνες ή και συχνότερα.

Ο μηχανισμός στον οποίο αποδίδει αυτή την επίδοση είναι η αρθρωτότητα: επαναχρησιμοποιήσιμοι σχεδιασμοί που επιτρέπουν στα νέα τσιπ να ενσωματώνονται στην υπάρχουσα υποδομή rack systems. Αυτή η λεπτομέρεια έχει μεγαλύτερη σημασία από τον εντυπωσιακό αριθμό, καθώς ένας ταχύς ρυθμός σχεδίασης έχει αξία μόνο αν η ανάπτυξη τον ακολουθεί. Ευθυγραμμίζοντας τα racks και τα συστήματα με τα πρότυπα του Open Compute Project, η Meta προσπαθεί να καταργήσει το στάδιο ενσωμάτωσης στο data center, το οποίο συνήθως καθυστερεί τη μετάβαση νέου silicon στην παραγωγή.

Το MTIA 300 βρίσκεται ήδη σε παραγωγή για εκπαίδευση σε ranking και recommendations. Τα υπόλοιπα τρία προορίζονται για inference γενετικής ΤΝ έως το 2027, οπότε το σχέδιο δύο ετών αντιστοιχεί στην πραγματικότητα σε χρονοδιάγραμμα επικαλυπτόμενων γενεών παρά σε μία μεγάλη κυκλοφορία.

Σχεδιασμός με προτεραιότητα στο inference, όχι στην εκπαίδευση

Η πιο ξεκάθαρη αρχιτεκτονική δήλωση είναι μια αναστροφή της συνήθους σειράς προτεραιοτήτων. Η Meta υποστηρίζει ότι τα mainstream τσιπ σχεδιάζονται για τον πιο απαιτητικό φόρτο εργασίας —την προεκπαίδευση γενετικής ΤΝ μεγάλης κλίμακας— και στη συνέχεια επαναχρησιμοποιούνται, συχνά με μικρότερη οικονομική αποδοτικότητα, για inference.

Εμείς ακολουθούμε την αντίθετη προσέγγιση: τα MTIA 450 και 500 βελτιστοποιούνται πρώτα για inference γενετικής ΤΝ και στη συνέχεια μπορούν να χρησιμοποιηθούν για την υποστήριξη άλλων φόρτων εργασίας όπου απαιτείται, συμπεριλαμβανομένων της εκπαίδευσης και του inference για ranking και recommendations, καθώς και της εκπαίδευσης γενετικής ΤΝ.Montana Labs

Πρόκειται για ένα στοίχημα σχετικά με το πού αναπτύσσεται η ζήτηση. Η Meta ήδη αναπτύσσει εκατοντάδες χιλιάδες τσιπ MTIA για inference σε organic περιεχόμενο και διαφημίσεις, διαθέτοντας έτσι έναν μεγάλο και καλά κατανοητό φόρτο εργασίας για βελτιστοποίηση. Η προτεραιότητα στο inference σημαίνει ότι τα τσιπ ταιριάζουν με ακρίβεια στον όγκο εργασίας, ενώ η εκπαίδευση αντιμετωπίζεται ως δευτερεύουσα δυνατότητα και όχι ως ο πυρήνας του σχεδιασμού.

Ένα χαρτοφυλάκιο, όχι υποκατάστατο του εμπορικού silicon

Η Meta είναι ξεκάθαρη ότι το MTIA δεν αντικαθιστά τα τσιπ που αγοράζει από τρίτους. Περιγράφει μια προσέγγιση χαρτοφυλακίου —προμήθεια silicon από διάφορους κορυφαίους παίκτες του κλάδου, με το MTIA να παραμένει στο κέντρο— και δηλώνει ξεκάθαρα ότι κανένα μεμονωμένο τσιπ δεν μπορεί να καλύψει όλες τις ανάγκες της.

Αυτή η τοποθέτηση θέτει έναν πιο στενό πήχη επιτυχίας για το custom πρόγραμμα. Το MTIA δεν χρειάζεται να ξεπεράσει τους επιταχυντές γενικής χρήσης σε κάθε φόρτο εργασίας· αρκεί να είναι πιο οικονομικά αποδοτικό στα συγκεκριμένα, υψηλού όγκου tasks inference της Meta. Η εταιρεία αποδίδει το κόστος-όφελος του MTIA στο γεγονός ότι αποτελεί μέρος μιας custom λύσης πλήρους στοίβας, και όχι στην ακατέργαστη μέγιστη απόδοση.

Το τυπικό λογισμικό ως μοχλός υιοθέτησης

Για τις ομάδες που χτίζουν πάνω σε αυτού του είδους την υποδομή, η πιο πρακτική λεπτομέρεια είναι ότι το MTIA είναι χτισμένο εξαρχής πάνω σε PyTorch, vLLM, Triton και OCP. Οι custom επιταχυντές συνήθως κολλάνε στο λογισμικό —τα proprietary toolchains αναγκάζουν τις ομάδες μοντέλων να ξαναγράφουν κώδικα και να ρυθμίζουν εκ νέου kernels πριν υιοθετήσουν νέο hardware.

Δεσμευόμενη στο υπάρχον οικοσύστημα frameworks, η Meta προσπαθεί να κάνει τις αλλαγές hardware αόρατες για όσους διαχειρίζονται τα μοντέλα. Αυτό είναι που κάνει έναν ρυθμό έξι μηνών ρεαλιστικό εσωτερικά: αν κάθε νέο τσιπ δεν απαιτεί νέα προσπάθεια μεταφοράς, οι γενιές μπορούν να εναλλάσσονται ταχύτατα χωρίς να αφήνουν πίσω τους φόρτους εργασίας που τρέχουν σε αυτές. Ο χάρτης πορείας των τσιπ και η δέσμευση στο λογισμικό αποτελούν τις δύο όψεις της ίδιας στρατηγικής —η ταχύτητα είναι τόσο πραγματική όσο και η τριβή υιοθέτησης που καταργεί.