OpenAI veröffentlicht gpt-oss-safeguard als Klassifikator für Richtlinien-Reasoning, nicht als Chat-Modell

Was die Safeguard-Varianten tatsächlich leisten

gpt-oss-safeguard-120b und gpt-oss-safeguard-20b sind offene Reasoning-Modelle, die auf Basis der bestehenden gpt-oss-Modelle nachtrainiert wurden. Der Bericht beschreibt ihre konkrete Aufgabe präzise: Sie sind darauf trainiert, anhand einer vorgegebenen Richtlinie zu argumentieren und Inhalte entsprechend dieser Richtlinie zu kennzeichnen.

Diese Einordnung ist entscheidend. Die Richtlinie ist nicht in den Gewichten verankert – Sie liefern sie zur Inferenzzeit, und das Modell argumentiert dagegen. Die Modelle sind reine Textmodelle, verfügbar unter Apache 2.0 zuzüglich der Nutzungsrichtlinie von OpenAI für gpt-oss, und kompatibel mit der Responses API. Sie legen die vollständige Argumentationskette offen, bieten drei Reasoning-Stufen (niedrig, mittel, hoch) und unterstützen Structured Outputs.

Für eine Moderations- oder Klassifizierungs-Pipeline passt das zusammen: Die Argumentationskette liefert einen Nachweis für eine Kennzeichnungsentscheidung, und Structured Outputs liefert ein maschinell auswertbares Urteil, auf dessen Basis Sie weiterleiten können.

OpenAI zieht eine Grenze, die das Modell selbst nicht durchsetzen kann

Die klarste redaktionelle Entscheidung in diesem Bericht ist eine Empfehlung dazu, was man nicht tun sollte. OpenAI erklärt, die Modelle sollten Inhalte anhand einer vorgegebenen Richtlinie klassifizieren und nicht die Kernfunktion sein, mit der Endnutzer interagieren – dafür seien die ursprünglichen gpt-oss-Modelle laut Bericht besser geeignet.

Da es sich jedoch um offene Gewichte handelt, räumt OpenAI ein, dass jemand die Modelle trotzdem als Chat-Modell einsetzen kann und wird. Deshalb messen die Sicherheitsbewertungen im Bericht die Modelle bewusst auch in Chat-Szenarien – einer Nutzung, die das Unternehmen ausdrücklich nicht vorsieht.

Die gpt-oss-safeguard-Modelle sind für diese Nutzung nicht vorgesehen, aber da es sich um offene Modelle handelt, ist es möglich, dass jemand die Modelle auf diese Weise einsetzt. Wegen dieser Möglichkeit wollten wir sicherstellen, dass sie auch in diesem Einsatzszenario unseren Sicherheitsstandards entsprechen.Montana Labs

Das ist ein offenes Eingeständnis der Grenzen einer Apache-2.0-Veröffentlichung: Man kann einen Einsatzzweck empfehlen, ihn aber nicht erzwingen – also testet man auch den zweckwidrigen Pfad.

Die Bewertungslücke, die der Bericht offen benennt

Der Bericht macht deutlich, was seine Kennzahlen abdecken und was nicht. Die Sicherheitsmetriken beschreiben das Verhalten in Chat-Szenarien – nicht die eigentliche Aufgabe der Modelle, die Klassifizierung von Inhalten anhand einer Richtlinie. Auch die Mehrsprachigkeits-Bewertung wird als Ergebnis eines Chat-Szenarios eingeordnet, das die Leistung bei der richtlinienbasierten Klassifizierung nicht direkt widerspiegelt.

Der eigentliche Einsatzzweck – anhand meiner Richtlinie argumentieren und diesen Inhalt kennzeichnen – ist also genau der, den die veröffentlichten Sicherheits- und Mehrsprachigkeitszahlen nicht direkt messen. Diese Lücke muss ein einsetzendes Team mit eigenen Evaluierungen anhand der eigenen Richtlinien schließen.

Bei den Risiken mit größerer Tragweite argumentiert OpenAI über Vererbung: Da es sich um Feinabstimmungen ohne zusätzliche biologische oder Cybersicherheitsdaten handelt, werden die früheren Worst-Case-Einschätzungen aus der gpt-oss-Veröffentlichung als übertragbar behandelt statt neu ermittelt.

Was ein Klassifikator mit Richtlinie im Prompt für Moderations-Stacks verändert

Die konkrete Konsequenz: OpenAI veröffentlicht einen Klassifikator, dessen Regeln im Prompt liegen, nicht in den Gewichten. Ein Team kann seine Moderationsrichtlinie als Text versionieren, sie dem Modell übergeben und erhält im Gegenzug ein begründetes Urteil mit Argumentationskette und strukturiertem Ergebnis zurück – unter einer freizügigen Apache-2.0-Lizenz, selbst hostbar, mit einer 20b-Option für knappere Budgets.

Der Kompromiss liegt bei Ihnen. OpenAI hat den vorgesehenen Einsatzzweck genannt, darauf hingewiesen, dass die veröffentlichten Evaluierungen ein anderes Szenario abdecken, und klargestellt, dass die offene Lizenz einen Missbrauch als Chatbot ermöglicht. Wer das in eine Moderations-Pipeline einbaut, muss die Richtlinie sorgfältig formulieren, anhand realer eigener Inhalte evaluieren und darf die mitgelieferten Chat-Szenario-Metriken nicht mit einer Validierung der Klassifizierungsaufgabe verwechseln, für die man eigentlich bezahlt.