Η OpenAI κυκλοφορεί το gpt-oss-safeguard ως ταξινομητή συλλογιστικής βάσει πολιτικών, όχι ως μοντέλο συνομιλίας

Τι κάνουν στην πραγματικότητα οι παραλλαγές safeguard

Τα gpt-oss-safeguard-120b και gpt-oss-safeguard-20b είναι μοντέλα συλλογιστικής ανοιχτών βαρών, που προήλθαν από περαιτέρω εκπαίδευση των υπαρχόντων μοντέλων gpt-oss. Η αναφορά περιγράφει με ακρίβεια τη συγκεκριμένη αποστολή τους: είναι εκπαιδευμένα να συλλογίζονται βάσει μιας παρεχόμενης πολιτικής και να χαρακτηρίζουν περιεχόμενο σύμφωνα με αυτήν.

Αυτή η προσέγγιση έχει σημασία. Η πολιτική δεν είναι ενσωματωμένη στα βάρη — την παρέχετε εσείς τη στιγμή της εξαγωγής αποτελεσμάτων, και το μοντέλο συλλογίζεται βάσει αυτής. Τα μοντέλα είναι μόνο κειμένου, διαθέσιμα υπό την άδεια Apache 2.0 σε συνδυασμό με την πολιτική χρήσης gpt-oss της OpenAI, και συμβατά με το Responses API. Παρέχουν πλήρη αλυσίδα σκέψης (chain-of-thought), τρία επίπεδα προσπάθειας συλλογιστικής (χαμηλό, μεσαίο, υψηλό) και Structured Outputs.

Για μια ροή εργασιών συντονισμού ή ταξινόμησης, αυτά τα χαρακτηριστικά ταιριάζουν απόλυτα: το ίχνος συλλογιστικής σας δίνει ένα ιστορικό ελέγχου για μια απόφαση χαρακτηρισμού, ενώ τα Structured Outputs σας δίνουν μια απόφαση αναγνώσιμη από μηχανή, την οποία μπορείτε να δρομολογήσετε.

Η OpenAI έθεσε ένα όριο που το ίδιο το μοντέλο δεν μπορεί να επιβάλει

Η πιο ξεκάθαρη συντακτική επιλογή σε αυτή την αναφορά είναι μια σύσταση για το τι δεν πρέπει να κάνετε. Η OpenAI δηλώνει ότι τα μοντέλα θα πρέπει να ταξινομούν περιεχόμενο βάσει μιας παρεχόμενης πολιτικής και δεν θα πρέπει να αποτελούν τη βασική λειτουργικότητα με την οποία αλληλεπιδρούν οι τελικοί χρήστες — για αυτό τον σκοπό, η αναφορά αναφέρει ότι τα αρχικά μοντέλα gpt-oss είναι πιο κατάλληλα.

Ωστόσο, επειδή πρόκειται για ανοιχτά βάρη, η OpenAI αναγνωρίζει ότι κάποιος μπορεί —και θα— τα τρέξει ως μοντέλο συνομιλίας. Γι' αυτό οι αξιολογήσεις ασφάλειας στην αναφορά μετρούν σκόπιμα τα μοντέλα σε περιβάλλον συνομιλίας — μια χρήση που η εταιρεία ρητά δεν προτίθεται να υποστηρίξει.

Τα μοντέλα gpt-oss-safeguard δεν προορίζονται για αυτή τη χρήση, αλλά επειδή είναι ανοιχτά μοντέλα, είναι πιθανό κάποιος να τα χρησιμοποιήσει με αυτόν τον τρόπο. Λόγω αυτής της πιθανότητας, θέλαμε να επιβεβαιώσουμε ότι πληρούσαν τα πρότυπα ασφάλειας μας και σε αυτή τη χρήση.Montana Labs

Πρόκειται για μια ειλικρινή παραδοχή σχετικά με τα όρια μιας κυκλοφορίας υπό άδεια Apache 2.0: μπορείτε να συστήσετε μια χρήση, αλλά δεν μπορείτε να την περιορίσετε, οπότε δοκιμάζετε και το μη προβλεπόμενο σενάριο χρήσης.

Το κενό αξιολόγησης που η αναφορά αναγνωρίζει ανοιχτά

Η αναφορά είναι προσεκτική σχετικά με τι καλύπτουν —και τι δεν καλύπτουν— τα στοιχεία της. Οι μετρήσεις ασφάλειας περιγράφουν τη συμπεριφορά σε περιβάλλον συνομιλίας — όχι το έργο ταξινόμησης περιεχομένου βάσει πολιτικής για το οποίο προορίζονται στην πραγματικότητα τα μοντέλα. Η αξιολόγηση πολυγλωσσίας επίσης πλαισιώνεται ως αποτέλεσμα σε περιβάλλον συνομιλίας, το οποίο δεν αξιολογεί άμεσα την απόδοση κατά τη διάρκεια ταξινόμησης βάσει μιας παρεχόμενης πολιτικής.

Έτσι, η κύρια χρήση —να συλλογιστεί βάσει της πολιτικής μου και να χαρακτηρίσει αυτό το περιεχόμενο— είναι ακριβώς αυτή που τα δημοσιευμένα στοιχεία ασφάλειας και πολυγλωσσίας δεν μετρούν άμεσα. Αυτό είναι ένα κενό που κάθε ομάδα υλοποίησης πρέπει να καλύψει με τη δική της αξιολόγηση στις δικές της πολιτικές.

Για τους κινδύνους μεγαλύτερης σοβαρότητας, η OpenAI βασίζεται στην κληρονομικότητα: πρόκειται για βελτιστοποιήσεις εκπαιδευμένες χωρίς πρόσθετα δεδομένα βιολογικού ή κυβερνοασφαλείας χαρακτήρα, οπότε οι προηγούμενες εκτιμήσεις χειρότερης περίπτωσης από την κυκλοφορία του gpt-oss θεωρούνται ότι εφαρμόζονται εκ νέου, αντί να επαναϋπολογίζονται.

Τι αλλάζει ένας ταξινομητής με πολιτική-στο-prompt για τις υποδομές συντονισμού

Η συγκεκριμένη συνέπεια είναι ότι η OpenAI κυκλοφορεί έναν ταξινομητή του οποίου οι κανόνες βρίσκονται στο prompt, όχι στα βάρη. Μια ομάδα μπορεί να διατηρήσει την πολιτική συντονισμού της ως κείμενο με εκδόσεις, να την παραδώσει στο μοντέλο, και να λάβει πίσω έναν αιτιολογημένο χαρακτηρισμό με αλυσίδα σκέψης και δομημένη απόφαση — υπό μια ελεύθερη άδεια Apache 2.0, με δυνατότητα αυτοφιλοξενίας, και με μια επιλογή 20b για πιο περιορισμένους προϋπολογισμούς.

Το ρίσκο το επωμίζεστε εσείς. Η OpenAI σας έχει πει την προβλεπόμενη χρήση, σας έχει πει ότι οι δημοσιευμένες αξιολογήσεις καλύπτουν διαφορετικό περιβάλλον, και σας έχει πει ότι η ανοιχτή άδεια σημαίνει ότι το μοντέλο μπορεί να χρησιμοποιηθεί εσφαλμένα ως chatbot. Η ενσωμάτωσή του σε μια ροή συντονισμού σημαίνει να γράψετε καλά την πολιτική σας, να αξιολογήσετε με το πραγματικό σας περιεχόμενο, και να μην συγχέετε τις μετρήσεις σε περιβάλλον συνομιλίας που κυκλοφόρησαν με επικύρωση του έργου ταξινόμησης που πληρώνετε να επιτελέσει.