OpenAI hat die Bewertungen von 1.000 Personen in eine einzige übernommene Änderung der Model Spec umgesetzt

Was die Umfrage tatsächlich gemessen hat

OpenAI rekrutierte rund 1.000 Teilnehmer aus 19 Ländern — etwa ein Drittel aus den USA, weitere aus Mexiko, Südafrika, den Niederlanden, Chile, dem Vereinigten Königreich, Indien, Kenia und Japan — und bat sie, vier Antwortkandidaten auf Prompts in wertesensiblen Bereichen zu bewerten. Die Teilnehmer lasen die Model Spec selbst nicht. Sie prüften vorausgewählte Prompts und Antworten, bewerteten sie, erläuterten ihre Entscheidungen, bewerteten Rubriken und formulierten eigene.

Drei der vier Antworten pro Prompt wurden erstellt, um unterschiedliche realistische Meinungen abzudecken; die vierte stammte von GPT-4o. Dieses Design ist entscheidend: Das Feedback wird davon geprägt, welche Prompts OpenAI ausgewählt und welche Antworten gezeigt wurden. Das Unternehmen räumt dies selbst ein und nennt die Prompt-Auswahl sowie das Kriterium der Teilnahme nur für Englischsprachige als Quellen für Verzerrungen bei der Auswahl.

Um menschliche Bewertungen mit der schriftlichen Spec zu vergleichen, entwickelte OpenAI einen Model Spec Ranker — ein Reasoning-Modell, das angewiesen wurde, dieselben vier Antworten gemäß der Spec zu bewerten. Mit GPT-5 Thinking stimmten die Teilnehmer im Schnitt zu etwa 80 % mit diesem Ranker überein, mit der stärksten Übereinstimmung bei Ehrlichkeit, Demut, Fairness und Objektivität.

Die Lücken lagen alle an den Grenzen der Meinungsfreiheit

Wo Menschen und der Ranker voneinander abwichen, konzentrierten sich die Unstimmigkeiten auf einen vorhersehbaren Bereich: politische Inhalte, sexuelle oder grafische Inhalte sowie Kritik an Pseudowissenschaft oder Verschwörungstheorien. Das sind genau die Bereiche, in denen sich ein einziges Standardverhalten am schwersten rechtfertigen lässt — und in denen OpenAI selbst einräumt, dass kein Standard alle zufriedenstellen wird.

OpenAI teilte die Vorschläge in zwei Kategorien ein. Klarstellungen sind Fälle, in denen das gewünschte Verhalten eines Teilnehmers zu den bestehenden Prinzipien passt, der Text aber Interpretationsspielraum ließ. Prinzipienänderungen sind Fälle, in denen das gewünschte Verhalten den Prinzipien der Spec widerspricht. Das Unternehmen machte deutlich, dass die Übernahme umso schwieriger wird, je weiter oben in der Instruktionshierarchie eine Änderung ansetzen würde — besonders auf Plattformebene.

Eine Änderung übernommen, zwei zurückgestellt

Das konkrete Ergebnis ist überschaubar. Eine übernommene Änderung stellt klar, dass politische Inhalte für ein breites oder nicht näher spezifiziertes Publikum unabhängig vom Thema erlaubt sind — auch wenn sie einen bestimmten Politiker, eine Partei oder eine Kampagne betreffen —, solange dabei nicht die Merkmale einer bestimmten Person oder Bevölkerungsgruppe ausgenutzt werden. Das ist eine Präzisierung der Formulierung, kein neues Prinzip.

Die beiden von den Teilnehmern am meisten gewünschten Änderungen wurden nicht übernommen. Viele befürworteten stärker zugeschnittene politische Inhalte; OpenAI lehnte dies ab und verwies auf die Risiken groß angelegter individualisierter politischer Zielausrichtung sowie Zweifel daran, dass die Teilnehmer diese Risiken abgewogen hatten. Ein großer Teil sprach sich für die Freigabe von Erotik für einwilligende Erwachsene aus; OpenAI erklärte, dies entspreche der eigenen vorgesehenen Haltung, es seien aber noch weitere Forschung und Produktarbeit nötig, bevor es umgesetzt werden könne.

Die Teilnehmer bewerteten Verhaltensunterschiede isoliert, ohne Abwägungen zwischen Prinzipien vorzunehmen (etwa Erotik ohne Berücksichtigung der Sicherheit von Kindern oder emotionaler Abhängigkeit).Montana Labs

Diese Einschränkung erklärt die Lücke zwischen dem, was die Mehrheit bevorzugte, und dem, was OpenAI übernahm. Die Umfrage erfasste isolierte Präferenzen; die interne Prüfung wog diese gegen Sicherheitsrichtlinien, Einschränkungen bei der Bereitstellung und nachgelagerte Schäden ab, die der Datensatz nicht abbilden konnte.

Zwei Prozesse — und ein ehrliches Eingeständnis zur Legitimität

OpenAI testete zwei Wege, um Bewertungen in Vorschläge umzuwandeln. Ein vollautomatisierter Prozess ließ ein Reasoning-Modell Unstimmigkeiten erkennen, Änderungen an der Spec vorschlagen und diese gegen den Model Spec Ranker testen, um zu prüfen, ob sich die Übereinstimmung verbesserte. Ein Prozess mit Mensch an erster Stelle ließ eine Forscherin oder einen Forscher nach Prüfung der Präferenzen Aktualisierungen vorschlagen, validiert durch ein Modell, das beurteilte, ob die im Klartext formulierten Begründungen die Absicht stützten.

Der Mensch-zuerst-Prozess erfasste Nuancen, die dem automatisierten Prozess entgingen — in einem Fall wurde indirekte suizidale Absicht erkannt, die den Teilnehmern wichtig gewesen wäre — lässt sich aber nicht skalieren. Der automatisierte Prozess ist skalierbar, bleibt jedoch an die Interpretation des Rankers gebunden, sodass sich die Ergebnisse je nach verwendetem Basismodell verändern.

Der ehrlichste Teil des Berichts ist das Legitimitätsbedenken, das das Team gegen sich selbst vorbringt: Ein Aktualisierungsprozess mit vielen automatisierten Teilen besitzt möglicherweise nicht genügend Legitimität, da diese Teile für Menschen schwerer zu interpretieren sind. Genau das ist die eigentliche Spannung dieser Ankündigung. OpenAI baut eine Maschinerie auf, um öffentliche Präferenzen in Plattform-Standardverhalten zu übersetzen — und räumt gleichzeitig ein, dass die Ergebnisse dieser Maschinerie selbst menschlicher Interpretation bedürfen, um vertrauenswürdig zu sein.

Warum die Zurückstellungen das eigentliche Signal sind, nicht die Übernahmen

Für Teams, die auf den Modellen von OpenAI aufbauen, ist die entscheidende Erkenntnis nicht die einzelne Klarstellung zu politischen Inhalten. Es ist die aufgezeigte Obergrenze dafür, wie weit die Präferenz der Masse ein Standardverhalten der Plattform verändern kann. OpenAI führte eine globale Umfrage durch, stellte eine Mehrheit für die Freigabe von Erotik fest, bestätigte, dass dies der eigenen vorgesehenen Haltung entspricht — und setzte trotzdem keine Änderung um, solange Forschung und Produktarbeit ausstehen.

Damit entsteht ein handlungsleitender Präzedenzfall: Öffentliches Feedback kann die Spec bestätigen und präzisieren, aber folgenreiche Änderungen auf Plattformebene bleiben durch interne Sicherheitsprüfung und die Machbarkeit der Bereitstellung abgesichert. Wer künftiges Standardverhalten in umstrittenen Bereichen einplant, sollte sich an dieser Hürde orientieren — nicht an der Stimmung der Umfrage. Der Datensatz ist auf HuggingFace öffentlich einsehbar, die Unstimmigkeiten lassen sich also nachvollziehen — die Entscheidung, danach zu handeln, bleibt jedoch allein bei OpenAI.