Το OpenAI και η Amazon δεσμεύονται για stateful runtime περιβάλλοντα πρακτόρων στο AWS

Το state είναι το χαρακτηριστικό, όχι το μοντέλο

Το βασικό προϊόν εδώ δεν είναι ένα νέο μοντέλο. Είναι ένα Stateful Runtime Environment που το OpenAI και η AWS κατασκευάζουν από κοινού, το οποίο παραδίδεται μέσω του Amazon Bedrock και ενσωματώνεται με το Bedrock AgentCore.

Η πηγή το περιγράφει ξεκάθαρα: το περιβάλλον επιτρέπει στους προγραμματιστές να «διατηρούν το context, να θυμούνται προηγούμενη εργασία, να εργάζονται σε διάφορα εργαλεία λογισμικού και πηγές δεδομένων, και να έχουν πρόσβαση σε υπολογιστική ισχύ», και είναι «σχεδιασμένο για να διαχειρίζεται συνεχιζόμενα projects και ροές εργασίας».

Αυτή η προσέγγιση είναι η ουσία της ιστορίας του αυτοματισμού. Οι stateless κλήσεις μοντέλων είναι κατάλληλες για μεμονωμένες απαντήσεις, αλλά οι πράκτορες που συνεχίζουν αύριο μια ημιτελή εργασία χρειάζονται μόνιμη μνήμη, ταυτότητα και πρόσβαση σε υπολογιστική ισχύ. Το OpenAI αποκαλεί τα stateful περιβάλλοντα «την επόμενη γενιά του τρόπου με τον οποίο θα χρησιμοποιούνται τα frontier μοντέλα» — μια δήλωση για το πώς δομείται η εργασία, όχι απλώς για το πώς παράγονται tokens. Η κυκλοφορία αναμένεται «τους επόμενους μήνες».

Το Frontier αποκτά αποκλειστικό κανάλι cloud

Η AWS γίνεται ο «αποκλειστικός πάροχος διανομής cloud τρίτου μέρους» για το OpenAI Frontier, την πλατφόρμα για τη δημιουργία και διαχείριση «ομάδων πρακτόρων ΤΝ που λειτουργούν σε πραγματικά επιχειρηματικά συστήματα με κοινό context, ενσωματωμένη διακυβέρνηση και ασφάλεια επιχειρηματικού επιπέδου».

Η λέξη αποκλειστικό έχει σημασία. Σημαίνει ότι οι επιχειρήσεις που θέλουν το Frontier μέσω hyperscaler πρέπει να το κάνουν μέσω AWS, όχι μέσω ανταγωνιστικού cloud. Για ομάδες που έχουν ήδη τυποποιήσει την ταυτότητα, τη δικτύωση και τις υπηρεσίες δεδομένων τους στο AWS, αυτό μειώνει την τριβή ενσωμάτωσης· για όσους λειτουργούν σε πολυ-cloud περιβάλλον, εισάγει έναν περιορισμό διανομής που αξίζει να σημειωθεί.

Η προσέγγιση επικεντρώνεται ρητά στο κενό μεταξύ πειραματισμού και παραγωγικής χρήσης — το Frontier τοποθετείται ώστε να «ενσωματώνει ισχυρή ΤΝ σε υπάρχουσες ροές εργασίας γρήγορα, με ασφάλεια και σε παγκόσμια κλίμακα» χωρίς να απαιτείται διαχείριση της υποκείμενης υποδομής.

Τα υπολογιστικά νούμερα πίσω από τους πράκτορες

Το OpenAI και η AWS επεκτείνουν μια υπάρχουσα συμφωνία 38 δισεκατομμυρίων δολαρίων κατά 100 δισεκατομμύρια δολάρια σε βάθος οκτώ ετών. Στο πλαίσιο αυτό, το OpenAI δεσμεύεται για περίπου 2 gigawatt χωρητικότητας Trainium για την εξυπηρέτηση του Stateful Runtime, του Frontier και άλλων φόρτων εργασίας.

Η δέσμευση καλύπτει το Trainium3 και το επόμενης γενιάς Trainium4, το οποίο αναμένεται να ξεκινήσει τις παραδόσεις του το 2027 με μεγαλύτερη υπολογιστική ισχύ FP4, περισσότερο εύρος ζώνης μνήμης και μεγαλύτερη μνήμη υψηλού εύρους ζώνης. Το OpenAI παρουσιάζει αυτό ως εξασφάλιση μακροπρόθεσμης χωρητικότητας, ενώ αναπτύσσει «ειδικά σχεδιασμένα chips παράλληλα με το ευρύτερο υπολογιστικό οικοσύστημά του».

Αυτή είναι η υλική υποστήριξη πίσω από τους ισχυρισμούς για τους πράκτορες. Οι μόνιμοι, πάντα ενεργοί πράκτορες που διατηρούν state καταναλώνουν πολύ περισσότερη διαρκή υπολογιστική ισχύ από μια εφάπαξ συνομιλία, και η πηγή συνδέει άμεσα τη δέσμευση Trainium με «τη μείωση του κόστους και τη βελτίωση της αποδοτικότητας παραγωγής νοημοσύνης σε κλίμακα».

Προσαρμοσμένα μοντέλα για το δικό της front end της Amazon

Μια πιο διακριτική ρήτρα: το OpenAI και η Amazon θα αναπτύξουν προσαρμοσμένα μοντέλα που οι προγραμματιστές της Amazon θα μπορούν να προσαρμόζουν ώστε να τροφοδοτούν τις δικές της εφαρμογές και πράκτορες που απευθύνονται σε πελάτες. Αυτά «συμπληρώνουν» την υπάρχουσα οικογένεια Nova της Amazon, χωρίς να την αντικαθιστούν.

Έτσι η Amazon είναι ταυτόχρονα διανομέας και πελάτης — ενσωματώνει μοντέλα OpenAI σε προϊόντα που εξυπηρετούν τους δικούς της τελικούς χρήστες, ενώ προσφέρει την ίδια υποδομή σε τρίτους μέσω του Bedrock.

Το OpenAI και η Amazon μοιράζονται την πεποίθηση ότι η ΤΝ πρέπει να εμφανίζεται με τρόπους πρακτικούς και ουσιαστικά χρήσιμους για τους ανθρώπους. Ο συνδυασμός της νοημοσύνης του OpenAI με την υποδομή και την παγκόσμια εμβέλεια της Amazon μας βοηθά να φέρουμε ισχυρή ΤΝ στα χέρια επιχειρήσεων και χρηστών σε πραγματική κλίμακα. — Sam AltmanMontana Labs

Τι σημαίνει το stateful runtime για τις ομάδες που κατασκευάζουν πράκτορες

Η συγκεκριμένη συνέπεια είναι ότι το OpenAI τυποποιεί το πού βρίσκονται η μνήμη, η ταυτότητα και η υπολογιστική ισχύς των πρακτόρων — μέσα σε ένα runtime συνδεδεμένο με την υποδομή του AWS και το AgentCore. Αν κατασκευάζετε πάνω σε αυτό, το επίπεδο διατήρησης state των πρακτόρων σας συνδέεται με αυτό το stack.

Για τις ομάδες εφαρμοσμένης μηχανικής, η ανταλλαγή είναι πραγματική: αποκτάτε ένα διαχειριζόμενο περιβάλλον παραγωγικού επιπέδου για μακροχρόνιους πράκτορες χωρίς να χρειάζεται να συναρμολογήσετε τη δική σας υποδομή state και ορχήστρωσης, αλλά η αποκλειστική διανομή του Frontier μέσω AWS και η χωρητικότητα που υποστηρίζεται από Trainium σημαίνουν ότι η ευκολία συνοδεύεται από εξάρτηση από συγκεκριμένο cloud.

Το σήμα που αξίζει να λάβετε υπόψη είναι ότι ο stateful, πολυβηματικός αυτοματισμός αντιμετωπίζεται πλέον ως υποδομή προς αγορά, όχι απλώς ως ένα μοτίβο προς κωδικοποίηση. Αξιολογήστε τον ανάλογα — συγκρίνοντάς τον με το κόστος να κατασκευάσετε εσείς οι ίδιοι φορητό state — πριν την κυκλοφορία του runtime τους επόμενους μήνες.