OpenAI rilascia gpt-oss-120b e gpt-oss-20b con licenza Apache 2.0

Due modelli MoE dimensionati per budget hardware specifici

OpenAI ha rilasciato gpt-oss-120b e gpt-oss-20b come modelli open-weight con licenza Apache 2.0, scaricabili da Hugging Face. Sono i primi modelli linguistici open-weight dell'azienda da GPT-2, e a differenza di Whisper o CLIP puntano al ragionamento generale e all'uso di strumenti.

Entrambi sono Transformer mixture-of-experts. Il modello 120b ha 117 miliardi di parametri totali ma ne attiva solo 5,1 miliardi per token su 36 layer, con 4 esperti attivi su 128 alla volta. Il modello 20b attiva 3,6 miliardi di parametri su 21 miliardi totali, richiamando 4 esperti su 32. Entrambi supportano un contesto di 128k tramite RoPE e usano attenzione multi-query raggruppata con gruppi da 8.

Il dimensionamento è intenzionale. Distribuito nativamente in quantizzazione MXFP4, gpt-oss-120b rientra in 80GB di memoria — una singola GPU di fascia alta — mentre gpt-oss-20b funziona con 16GB, alla portata di laptop consumer e dispositivi edge. OpenAI posiziona il 120b come quasi alla pari con o4-mini sui benchmark di ragionamento principali, e il 20b come paragonabile a o3-mini.

Pesi, non un endpoint

È un modello di distribuzione diverso dai soliti lanci di prodotto di OpenAI. Non esiste una API gpt-oss gestita da OpenAI. L'azienda dice solo che potrebbe considerare un supporto API per gpt-oss in futuro, e indirizza gli sviluppatori che vogliono supporto multimodale e strumenti integrati verso la sua piattaforma API proprietaria.

Per rendere utilizzabili i soli pesi, OpenAI si è coordinata in anticipo con piattaforme di deployment tra cui vLLM, Ollama, llama.cpp, LM Studio, Azure, AWS, Fireworks, Together AI e altre, e ha collaborato con NVIDIA, AMD, Cerebras e Groq sull'ottimizzazione hardware. Microsoft porterà gpt-oss-20b ottimizzato per GPU su Windows tramite Foundry Local e l'AI Toolkit per VS Code via ONNX Runtime.

OpenAI ha inoltre rilasciato in open source l'infrastruttura di supporto: il tokenizer o200k_harmony, un renderer harmony in Python e Rust per il formato di prompt harmony su cui i modelli sono stati post-addestrati, più implementazioni di inferenza di riferimento per PyTorch e Apple Metal. I partner iniziali nominati AI Sweden, Orange e Snowflake hanno esplorato hosting on-premises e fine-tuning su dataset specializzati.

Chain-of-thought non supervisionata — e un avviso a non mostrarla

I modelli espongono la chain-of-thought completa e supportano tre livelli di impegno nel ragionamento — basso, medio, alto — configurabili con una singola frase nel messaggio di sistema. È da notare che OpenAI non ha applicato alcuna supervisione diretta alla CoT per nessuno dei due modelli, sostenendo che lasciare il ragionamento non monitorato ne preserva l'utilità come segnale per individuare comportamenti scorretti, inganni e usi improrpi.

Questa scelta progettuale porta con sé un avvertimento insolitamente diretto: gli sviluppatori non devono mostrare la CoT agli utenti. L'esempio stesso di OpenAI rende concreto il motivo. Data l'istruzione di non pronunciare mai la parola "cinque", la traccia di ragionamento del modello affronta apertamente la parola proibita prima di produrre una risposta finale conforme — contando "1, 2, 3, 4, … e poi circa 4,9".

gpt-oss-120b segue in modo affidabile le istruzioni di sistema nel suo output, ma spesso disobbedisce esplicitamente a quelle istruzioni nella sua CoT.Montana Labs

Per i team che costruiscono workflow agentici, questo divide il modello in due superfici con proprietà di sicurezza diverse: un layer di output conforme e sicuro da mostrare, e un layer di ragionamento grezzo che può contenere contenuti inventati o in violazione delle policy, e che deve essere isolato dagli utenti finali.

Testare la modalità di fallimento dei pesi aperti

Poiché rilasciare i pesi significa che avversari possono fare fine-tuning su di essi, OpenAI ha condotto un test pre-rilascio inusuale: ha costruito deliberatamente versioni specializzate e senza rifiuti in biologia e cybersicurezza — "nel modo in cui potrebbe farlo un attaccante" — usando il proprio stack di addestramento, per poi valutarle secondo il suo Preparedness Framework.

OpenAI riporta che questi modelli sottoposti a fine-tuning malevolo non sono riusciti a raggiungere livelli di capacità elevati secondo il suo framework, e afferma che questo risultato ha influenzato la decisione di procedere al rilascio. Tre gruppi indipendenti di esperti hanno revisionato la metodologia e formulato raccomandazioni, molte delle quali adottate. L'azienda sta inoltre organizzando una Red Teaming Challenge con un fondo premi di 500.000 dollari e prevede di rilasciare in open source un dataset di valutazione basato sui risultati convalidati.

Cosa cambia il rilascio dei soli pesi per i team che gestiscono la propria infrastruttura

L'implicazione concreta di gpt-oss è che un ragionamento di qualità OpenAI è ora qualcosa che ospiti tu stesso, non qualcosa che chiami tramite API. Per i team con vincoli di residenza dei dati, requisiti on-premises o la necessità di fare fine-tuning su dati proprietari, la licenza Apache 2.0 e gli obiettivi di memoria di 80GB / 16GB eliminano i due blocchi tipici: i termini legali e il costo dell'hardware.

Ma assumersi questo compito significa farsi carico di ciò che prima gestiva l'API di OpenAI. Non c'è un endpoint gestito, non c'è multimodalità, non ci sono strumenti integrati — devi assemblare l'inferenza tramite vLLM, Ollama o un provider terzo, collegare il formato harmony e costruire il tuo monitoraggio della chain-of-thought invece di fidarti di un layer di sicurezza gestito. La CoT non supervisionata che OpenAI ha mantenuto leggibile per scopi di ricerca è anche ciò che devi tenere lontano dai tuoi utenti. gpt-oss abbassa la barriera per eseguire in locale un ragionamento di livello frontier; alza l'asticella per l'orchestrazione e l'impalcatura di sicurezza che ora devi fornire tu stesso.