Το OpenAI κυκλοφορεί το gpt-oss με άδεια Apache 2.0 και το αποκαλεί κάρτα μοντέλου, όχι κάρτα συστήματος

Τι κυκλοφόρησε στην πραγματικότητα το OpenAI

Το OpenAI δημοσίευσε δύο μοντέλα συλλογιστικής ανοιχτού βάρους, τα gpt-oss-120b και gpt-oss-20b, με άδεια Apache 2.0 και μια πολιτική χρήσης gpt-oss. Και τα δύο επεξεργάζονται μόνο κείμενο και είναι συμβατά με το Responses API του OpenAI.

Ο σχεδιασμός είναι προσανατολισμένος σε agentic λειτουργίες. Τα μοντέλα έχουν κατασκευαστεί για την τήρηση οδηγιών, τη χρήση εργαλείων όπως αναζήτηση στο διαδίκτυο και εκτέλεση κώδικα Python, καθώς και για συλλογιστική. Μια αξιοσημείωτη λεπτομέρεια: οι προγραμματιστές μπορούν να ρυθμίσουν την ένταση της συλλογιστικής, μειώνοντάς την για εργασίες που δεν απαιτούν βαθιά ανάλυση. Τα μοντέλα είναι προσαρμοζόμενα, αποκαλύπτουν πλήρη αλυσίδα συλλογιστικής και υποστηρίζουν Structured Outputs.

Για ομάδες που έχουν ήδη ενσωματώσει το Responses API με κλειστά μοντέλα, αυτή η συμβατότητα έχει σημασία. Σημαίνει ότι το gpt-oss μπορεί να ενταχθεί σε μια υπάρχουσα ροή εργασίας κλήσης εργαλείων και δομημένων εξόδων, χωρίς να απαιτείται νέα επιφάνεια ενσωμάτωσης.

Η αλυσίδα συλλογιστικής αποκαλύπτεται πλήρως

Το OpenAI δηλώνει ότι τα μοντέλα παρέχουν πλήρη αλυσίδα συλλογιστικής. Για τις ομάδες εφαρμοσμένης ανάπτυξης, ένα ορατό ιχνηλάτημα συλλογιστικής είναι χρήσιμο για τον εντοπισμό σφαλμάτων στη συμπεριφορά ενός agent, τον έλεγχο κλήσεων εργαλείων και τη δημιουργία πλαισίων αξιολόγησης που εξετάζουν τα ενδιάμεσα βήματα και όχι μόνο τις τελικές απαντήσεις.

Αυτή η διαφάνεια είναι άμεση συνέπεια των ανοιχτών βαρών: δεν υπάρχει επίπεδο διακομιστή που να αποκρύπτει τη συλλογιστική. Αυτό λειτουργεί προς δύο κατευθύνσεις, δίνοντας στους developers μεγαλύτερη διαφάνεια αλλά προσφέροντας την ίδια διαφάνεια σε οποιονδήποτε άλλον σχετικά με το πώς το μοντέλο καταλήγει στις απαντήσεις του.

Γιατί το αποκαλούν κάρτα μοντέλου και όχι κάρτα συστήματος

Το OpenAI είναι ξεκάθαρο σχετικά με αυτή την επιλογή ονομασίας. Επειδή το gpt-oss θα ενσωματωθεί σε συστήματα που κατασκευάζονται και συντηρούνται από πολλά διαφορετικά ενδιαφερόμενα μέρη, το έγγραφο περιγράφει το μοντέλο, όχι ένα σύστημα. Η ασφάλεια κάθε συστήματος που θα αναπτυχθεί επαφίεται σε όποιον το κατασκευάζει.

Παρόλο που τα μοντέλα έχουν σχεδιαστεί να ακολουθούν εξ ορισμού τις πολιτικές ασφάλειας του OpenAI, άλλα ενδιαφερόμενα μέρη θα λάβουν και θα εφαρμόσουν επίσης τις δικές τους αποφάσεις σχετικά με τον τρόπο διατήρησης της ασφάλειας αυτών των συστημάτων.Montana Labs

Η εταιρεία αναφέρει επίσης ότι το προφίλ κινδύνου διαφέρει από τα ιδιόκτητα μοντέλα: μόλις κυκλοφορήσουν, αποφασισμένοι επιτιθέμενοι μπορούν να κάνουν fine-tuning στα βάρη ώστε να παρακάμψουν τις αρνήσεις ή να τα βελτιστοποιήσουν για πρόκληση βλάβης, χωρίς να υπάρχει τρόπος για το OpenAI να προσθέσει μέτρα μετριασμού ή να ανακαλέσει την πρόσβαση εκ των υστέρων. Στους προγραμματιστές και τις επιχειρήσεις αναφέρεται ότι ίσως χρειαστούν επιπλέον μέτρα προστασίας για να αναπαραγάγουν τις προστασίες σε επίπεδο συστήματος που συνοδεύουν τα μοντέλα που παρέχονται μέσω API.

Η δοκιμή αντιπαραθετικού fine-tuning και το δηλωμένο όριό της

Το OpenAI διεξήγαγε κλιμακούμενες αξιολογήσεις ικανοτήτων στο gpt-oss-120b και αναφέρει ότι το προεπιλεγμένο μοντέλο δεν φτάνει στα ενδεικτικά όρια Υψηλής Ικανότητας σε καμία από τις τρεις Κατηγορίες Παρακολούθησης του Preparedness Framework του: Βιολογικά και Χημικά, Cyber και Αυτο-Βελτίωση ΤΝ.

Στη συνέχεια, προσομοίωσε έναν επιτιθέμενο κάνοντας αντιπαραθετικό fine-tuning στο μοντέλο για τις κατηγορίες βιολογικού/χημικού και cyber, χρησιμοποιώντας ό,τι περιγράφει ως το κορυφαίο στον κλάδο σύστημα εκπαίδευσής του. Η Ομάδα Συμβουλευτικής Ασφάλειας εξέτασε τα αποτελέσματα και κατέληξε στο συμπέρασμα ότι το μοντέλο εξακολουθεί να μην φτάνει σε Υψηλή ικανότητα σε κανέναν από τους δύο τομείς.

Σχετικά με το εάν η κυκλοφορία προωθεί τα όρια των ανοιχτών μοντέλων, το OpenAI απαντά αρνητικά: για τις περισσότερες αξιολογήσεις, ένα ή περισσότερα υπάρχοντα ανοιχτά μοντέλα αποδίδουν κοντά στο αντιπαραθετικά fine-tuned gpt-oss-120b στην προεπιλεγμένη κατάστασή τους. Με άλλα λόγια, το επιχείρημα για την κυκλοφορία βασίζεται εν μέρει στο ότι η ικανότητα αυτή είναι ήδη διαθέσιμη αλλού.

Η συγκεκριμένη συνέπεια: η ασφάλεια μεταφέρεται στον integrator

Η ουσιαστική αλλαγή εδώ είναι ότι η ευθύνη για τη συμπεριφορά άρνησης και την προστασία σε επίπεδο συστήματος μεταφέρεται από τους διακομιστές του OpenAI σε όποιον αναπτύξει τα βάρη. Η κάρτα μοντέλου καταγράφει τις δοκιμές πριν την κυκλοφορία· δεν μπορεί να δεσμεύσει τι θα συμβεί μετά το fine-tuning.

Για τις ομάδες που υιοθετούν το gpt-oss, αυτό σημαίνει ότι οι διασφαλίσεις που παρείχε σιωπηλά το API του OpenAI είναι πλέον στοιχεία που πρέπει να κατασκευάσουν και να διαχειριστούν οι ίδιες. Η άδεια Apache 2.0 και η συμβατότητα με το Responses API μειώνουν το κόστος υιοθέτησης· η κάρτα μοντέλου καθιστά σαφές ότι η μηχανική ασφάλειας δεν έρχεται μαζί τους.