OpenAI lancia gpt-oss-safeguard come classificatore per il ragionamento su policy, non come modello di chat

Cosa fanno davvero le varianti safeguard

gpt-oss-safeguard-120b e gpt-oss-safeguard-20b sono modelli di reasoning open-weight, post-addestrati a partire dai modelli gpt-oss esistenti. Il report descrive con precisione il loro compito specifico: sono addestrati a ragionare a partire da una policy fornita ed etichettare i contenuti in base a quella policy.

Questa impostazione è importante. La policy non è incorporata nei pesi del modello: la fornisci tu al momento dell'inferenza, e il modello ragiona a partire da quella. I modelli sono solo testuali, disponibili sotto licenza Apache 2.0 più la usage policy gpt-oss di OpenAI, e compatibili con le Responses API. Espongono la chain-of-thought completa, tre livelli di reasoning-effort (basso, medio, alto) e gli Structured Outputs.

Per una pipeline di moderazione o classificazione, queste caratteristiche tornano utili: la traccia di ragionamento ti offre una tracciabilità per la decisione di etichettatura, e gli Structured Outputs ti danno un verdetto interpretabile da una macchina su cui instradare le azioni successive.

OpenAI ha tracciato un confine che il modello non può far rispettare da solo

La scelta editoriale più netta di questo report è una raccomandazione su cosa non fare. OpenAI afferma che questi modelli dovrebbero classificare i contenuti in base a una policy fornita e non dovrebbero essere la funzionalità principale con cui interagiscono gli utenti finali — per quello, dice il report, i modelli gpt-oss originali sono più adatti.

Ma trattandosi di pesi open, OpenAI riconosce che qualcuno può comunque decidere di usarli come modello di chat. Per questo le valutazioni di sicurezza nel report misurano deliberatamente i modelli anche in contesti di chat — un utilizzo che l'azienda dichiara esplicitamente di non voler favorire.

I modelli gpt-oss-safeguard non sono pensati per questo utilizzo, ma trattandosi di modelli open è possibile che qualcuno li usi in questo modo. Per questa possibilità, abbiamo voluto verificare che rispettassero i nostri standard di sicurezza anche in un utilizzo di questo tipo.Montana Labs

È un'ammissione onesta sui limiti di una release Apache 2.0: puoi raccomandare un caso d'uso, ma non puoi impedirlo, quindi testi anche il percorso non previsto.

Il vuoto di valutazione che il report dichiara apertamente

Il report è attento su cosa i suoi numeri coprono e cosa no. Le metriche di sicurezza descrivono il comportamento in contesti di chat — non il compito di classificazione dei contenuti con una policy, per cui i modelli sono effettivamente pensati. Anche la valutazione multilingua è definita come un risultato riferito al contesto chat, che non misura direttamente le prestazioni durante la classificazione in base a una policy fornita.

Quindi il caso d'uso principale — ragiona sulla mia policy ed etichetta questo contenuto — è esattamente quello che le cifre pubblicate su sicurezza e multilinguismo non misurano direttamente. È un vuoto che un team che effettua il deployment deve colmare con una propria valutazione sulle proprie policy.

Sui rischi con conseguenze più gravi, OpenAI ragiona per eredità: si tratta di fine-tune addestrati senza dati aggiuntivi in ambito biologico o di cybersicurezza, quindi le stime di worst-case precedenti della release gpt-oss vengono considerate applicabili anche qui, senza essere ricalcolate da zero.

Cosa cambia per gli stack di moderazione un classificatore con la policy nel prompt

L'implicazione specifica è che OpenAI sta rilasciando un classificatore le cui regole vivono nel prompt, non nei pesi. Un team può versionare la propria policy di moderazione come testo, passarla al modello e ricevere un'etichetta motivata, con chain-of-thought e verdetto strutturato — sotto una licenza permissiva Apache 2.0, self-hostabile, con un'opzione da 20b per budget più contenuti.

Il compromesso spetta a te. OpenAI ti ha detto qual è il compito previsto, ti ha detto che le valutazioni pubblicate riguardano un contesto diverso, e ti ha detto che la licenza open significa che il modello può essere usato in modo improprio come chatbot. Integrarlo in una pipeline di moderazione significa scrivere bene la policy, valutare sui tuoi contenuti reali, e non confondere le metriche pubblicate nel contesto chat con una validazione del compito di classificazione che stai effettivamente pagando per ottenere.