OpenAI veröffentlicht gpt-oss-120b und gpt-oss-20b unter Apache 2.0

Zwei MoE-Modelle, zugeschnitten auf konkrete Hardware-Budgets

OpenAI hat gpt-oss-120b und gpt-oss-20b als offen zugängliche Modelle unter der Apache-2.0-Lizenz veröffentlicht, herunterladbar über Hugging Face. Es handelt sich um die ersten offenen Sprachmodelle des Unternehmens seit GPT-2 – anders als Whisper oder CLIP zielen sie auf allgemeines Reasoning und Tool-Nutzung ab.

Beide sind Mixture-of-Experts-Transformer. Das 120b-Modell hat insgesamt 117 Milliarden Parameter, aktiviert pro Token jedoch nur 5,1 Milliarden über 36 Schichten, wobei jeweils 4 von 128 Experten aktiv sind. Das 20b-Modell aktiviert 3,6 von insgesamt 21 Milliarden Parametern und greift dabei auf 4 von 32 Experten zu. Beide unterstützen einen Kontext von 128k über RoPE und nutzen Grouped-Multi-Query-Attention mit einer Gruppengröße von 8.

Die Dimensionierung ist bewusst gewählt. Nativ in MXFP4 quantisiert, passt gpt-oss-120b in 80 GB Speicher – eine einzige High-End-GPU –, während gpt-oss-20b mit 16 GB läuft und damit auch auf Consumer-Laptops und Edge-Geräten nutzbar ist. OpenAI positioniert das 120b-Modell als nahezu gleichwertig mit o4-mini bei zentralen Reasoning-Benchmarks und das 20b-Modell als vergleichbar mit o3-mini.

Gewichte statt Endpoint

Dieses Vertriebsmodell unterscheidet sich deutlich von OpenAIs sonstigen Produkteinführungen. Es gibt keine gehostete gpt-oss-API. Das Unternehmen erklärt lediglich, es „könnte künftig API-Unterstützung für gpt-oss in Betracht ziehen“, und verweist Entwickler, die Multimodalität und integrierte Tools benötigen, zurück auf seine proprietäre API-Plattform.

Um die reine Gewichte-Veröffentlichung nutzbar zu machen, hat OpenAI sich vorab mit Deployment-Plattformen wie vLLM, Ollama, llama.cpp, LM Studio, Azure, AWS, Fireworks, Together AI und anderen abgestimmt und mit NVIDIA, AMD, Cerebras und Groq an der Hardware-Optimierung gearbeitet. Microsoft bringt eine GPU-optimierte Version von gpt-oss-20b über Foundry Local nach Windows sowie über das AI Toolkit für VS Code via ONNX Runtime.

OpenAI hat zudem die technische Infrastruktur als Open Source veröffentlicht: den o200k_harmony-Tokenizer, einen Harmony-Renderer in Python und Rust für das Harmony-Prompt-Format, auf das die Modelle nachtrainiert wurden, sowie Referenzimplementierungen für Inferenz mit PyTorch und Apple Metal. Die genannten frühen Partner AI Sweden, Orange und Snowflake haben On-Premises-Hosting sowie Fine-Tuning auf spezialisierten Datensätzen erprobt.

Unüberwachtes Chain-of-Thought – und eine Warnung, es nicht anzuzeigen

Die Modelle legen ihr vollständiges Chain-of-Thought-Reasoning offen und unterstützen drei Stufen des Reasoning-Aufwands – niedrig, mittel, hoch –, die sich mit einem einzigen Satz in der System-Message konfigurieren lassen. Bemerkenswert ist, dass OpenAI bei keinem der beiden Modelle eine direkte Überwachung des Chain-of-Thought vorgenommen hat – mit der Begründung, dass unüberwachtes Reasoning seinen Nutzen als Signal zur Erkennung von Fehlverhalten, Täuschung und Missbrauch bewahrt.

Diese Design-Entscheidung geht mit einem ungewöhnlich deutlichen Hinweis einher: Entwickler sollen das Chain-of-Thought-Reasoning Nutzern nicht anzeigen. OpenAIs eigenes Beispiel macht den Grund konkret greifbar. Bei der Anweisung, niemals das Wort „fünf“ zu verwenden, arbeitet sich der Gedankengang des Modells offen an dem verbotenen Wort ab, bevor es eine regelkonforme finale Antwort liefert – es zählt „1, 2, 3, 4, … und dann etwa 4,9“.

gpt-oss-120b befolgt Systemanweisungen in seiner Ausgabe zuverlässig, missachtet sie jedoch im Chain-of-Thought-Reasoning häufig ausdrücklich.Montana Labs

Für Teams, die agentenbasierte Workflows entwickeln, teilt dies das Modell in zwei Ebenen mit unterschiedlichen Sicherheitseigenschaften auf: eine regelkonforme Ausgabeebene, die sich sicher anzeigen lässt, und eine rohe Reasoning-Ebene, die halluzinierte oder richtlinienwidrige Inhalte enthalten kann und strikt von Endnutzern abgeschirmt werden muss.

Test des Fehlerfalls bei offenen Gewichten

Da die Veröffentlichung von Gewichten bedeutet, dass auch Angreifer sie per Fine-Tuning anpassen können, führte OpenAI einen ungewöhnlichen Test vor der Veröffentlichung durch: Man baute bewusst nicht-verweigernde, domänenspezifische Versionen in den Bereichen Biologie und Cybersicherheit – „so, wie es ein Angreifer tun könnte“ – mit dem eigenen Trainings-Stack und bewertete diese anschließend im Rahmen des eigenen Preparedness Framework.

OpenAI berichtet, dass diese absichtlich böswillig fine-getunten Modelle im eigenen Framework kein hohes Fähigkeitsniveau erreichen konnten, und erklärt, dieses Ergebnis habe die Entscheidung zur Veröffentlichung mitgetragen. Drei unabhängige Expertengruppen prüften die Methodik und gaben Empfehlungen ab, von denen viele umgesetzt wurden. Das Unternehmen führt außerdem eine Red-Teaming-Challenge mit einem Preisfonds von 500.000 US-Dollar durch und plant, einen Evaluationsdatensatz aus validierten Erkenntnissen als Open Source zu veröffentlichen.

Was die Veröffentlichung reiner Gewichte für Teams mit eigener Infrastruktur bedeutet

Die konkrete Konsequenz von gpt-oss ist, dass Reasoning auf OpenAI-Niveau nun etwas ist, das man selbst hostet, statt es per Aufruf zu nutzen. Für Teams mit Anforderungen an Datenresidenz, On-Premises-Betrieb oder Fine-Tuning auf proprietären Daten entfallen durch die Apache-2.0-Lizenz und die Speicherzielwerte von 80 GB bzw. 16 GB die beiden üblichen Hürden: rechtliche Bedingungen und Hardwarekosten.

Das bringt jedoch die Verantwortung mit sich, das zu übernehmen, was zuvor OpenAIs API für Sie erledigt hat. Es gibt keinen verwalteten Endpoint, keine Multimodalität und keine integrierten Tools – die Inferenz muss über vLLM, Ollama oder einen Drittanbieter selbst zusammengestellt, das Harmony-Format integriert und ein eigenes Chain-of-Thought-Monitoring aufgebaut werden, statt sich auf eine gehostete Sicherheitsebene zu verlassen. Das unüberwachte Chain-of-Thought, das OpenAI zu Forschungszwecken lesbar gehalten hat, ist zugleich genau das, was von Ihren Nutzern fernzuhalten ist. gpt-oss senkt die Einstiegshürde für den lokalen Betrieb von Reasoning auf Frontier-Niveau – und erhöht damit die Anforderungen an Orchestrierung und Sicherheitsvorkehrungen, die Sie nun selbst bereitstellen müssen.