OpenAI ergänzt ChatGPT um gesprächsübergreifenden Sicherheitskontext mit „Safety Summaries“

Was das Update im Gesprächsablauf tatsächlich verändert

OpenAIs zentrale Aussage ist eng gefasst und konkret: ChatGPT berücksichtigt nun den kumulierten Kontext eines Gesprächs statt nur der letzten Nachricht, wenn es in akuten Situationen – Suizid, Selbstverletzung und Schaden gegenüber anderen – über die Reaktion entscheidet. Eine Anfrage, die isoliert betrachtet harmlos wirkt, kann nach vorherigen Anzeichen von Krisen eine andere Bedeutung tragen, und das Modell ist darauf trainiert, bei sich verstärkenden Signalen vorsichtiger zu reagieren.

Die genannten Reaktionsmaßnahmen sind konkret: Deeskalieren, das Verweigern schädlicher Details oder das Umleiten zu sichereren Alternativen. Dies erweitert OpenAIs bestehenden „Safe Completion“-Ansatz, der die unsicheren Teile einer Anfrage verweigert, während er den sicher beantwortbaren Rest beantwortet, statt eine gesamte Nachricht pauschal abzulehnen.

„Safety Summaries“ sind eine Persistenzebene, kein Memory

Der aus technischer Sicht relevanteste Teil ist, wie OpenAI mit Risiken umgeht, die sich über mehrere Gespräche hinweg erstrecken. Statt den vollständigen Chatverlauf zu lesen, schreibt ein für Sicherheits-Reasoning trainiertes Modell „Safety Summaries“ – kurze, faktenbasierte Notizen zu früherem sicherheitsrelevantem Kontext. Diese werden von einem eigenen Modell erzeugt, nur begrenzte Zeit aufbewahrt und ausschließlich dann herangezogen, wenn ein ernstes Sicherheitsanliegen im Raum steht.

Sie sind darauf ausgelegt, faktischen Sicherheitskontext zu erfassen, nicht als allgemeine Personalisierung oder Langzeit-Memory zu dienen.Montana Labs

Genau diese Abgrenzung ist die bemerkenswerte Design-Entscheidung. OpenAI baut einen zweckgebundenen Persistenzpfad, der parallel zur ChatGPT-Memory-Funktion läuft, mit eigenem Generierungsmodell, eigenem Aufbewahrungszeitraum und eigenen Auslösebedingungen. Damit wird ein reales Produktproblem gelöst – Warnsignale, die über mehrere Sitzungen verteilt sind, wirken einzeln betrachtet jeweils harmlos –, ohne den Sicherheitskontext in das allgemeine Memory einzubetten, das die alltäglichen Antworten prägt.

Die Zahlen sind dort stark, wo die Funktion ansetzt

OpenAI berichtet über interne Evaluierungen, die risikoreiche Gespräche nachbilden sollen, in denen sich die Gefahr erst mit der Zeit klärt. In langen Einzelgesprächs-Tests stieg die Rate sicherer Antworten um 50 % bei Suizid und Selbstverletzung sowie um 16 % bei Schaden gegenüber anderen. Bei GPT-5.5 Instant, dem aktuellen Standardmodell, lagen die Verbesserungen bei 52 % für Schaden gegenüber anderen und 39 % für Suizid und Selbstverletzung. Bei mehr als 4.000 Auswertungen der Summaries selbst erreichten diese 4,93 von 5 Punkten bei der Sicherheitsrelevanz und 4,34 von 5 Punkten bei der Faktentreue.

Zwei Einschränkungen stecken in dieser Darstellung. Es handelt sich um interne Evaluierungen anhand von OpenAI selbst entworfener Szenarien, und die Prozentwerte sind relative Verbesserungen, keine absoluten Raten sicherer Antworten – ein großer Zuwachs sagt also nichts darüber aus, wie oft das Modell schon vorher sicher reagierte. Der Faktentreue-Wert von 4,34 liegt außerdem hinter dem Relevanz-Wert zurück, das heißt, die Summaries treffen zuverlässiger das Thema, als sie durchgängig korrekt sind – was Gewicht hat, wenn eine Notiz beeinflussen soll, wie das Modell eine spätere Nachricht liest.

OpenAI hat getestet, welche Kosten dies für gewöhnliche Chats verursacht

Ein wiederkehrendes Risiko bei Sicherheitsebenen ist, dass sie Vorsicht in die normale Nutzung hineintragen – Tonfall abflachen, übermäßig verweigern oder unnötige Warnungen einblenden. OpenAI ist dem gezielt nachgegangen und hat getestet, ob das Hinzufügen von Sicherheitskontext alltägliche Gespräche verschlechtert. Die Antworten blieben demnach weitgehend vergleichbar, ohne nennenswerte Nutzerpräferenz zwischen Antworten mit und ohne Safety Summaries.

Zusammen mit dem Input von Psychiaterinnen und Psychologen aus OpenAIs Global Physicians Network – die mitbestimmt haben, wann Summaries erstellt werden und wie lange Kontext berücksichtigt werden sollte – liest sich das Update als Versuch, die Sensibilität in seltenen Fällen zu erhöhen, ohne einen Alltagspreis zu zahlen. Ob das außerhalb interner Benchmarks Bestand hat, ist die offene Frage, aber die Evaluierung war zumindest darauf angelegt, sie zu stellen.

Der Präzedenzfall: ein begrenzter, ablaufender Kontextspeicher für hochriskante Signale

Die dauerhaft relevante Idee ist architektonischer Natur. OpenAI hat einen Kontextmechanismus gebaut, der durch seine Einschränkungen definiert ist – ein separates Reasoning-Modell, ein begrenztes Aufbewahrungsfenster und eine Aktivierung nur bei ernsten Sicherheitsanliegen – statt durch maximale Erinnerungsfähigkeit. Das ist das Gegenteil des allgemeinen Trends zu breiterem, langlebigerem Memory, und es existiert gerade deshalb, weil uneingeschränkte Persistenz für dieses Problem das falsche Werkzeug wäre.

OpenAI signalisiert, dieselbe Methode möglicherweise mit entsprechenden Schutzmaßnahmen auf Biologie- und Cybersicherheit auszuweiten. Falls das geschieht, lautet die übertragbare Vorlage nicht „dem Assistenten mehr Memory geben“ – sondern einen eng begrenzten, zweckgebundenen Kontextkanal, der nur dann greift, wenn eine definierte Risikoklasse ausgelöst wird. Für Teams, die konversationelle Produkte entwickeln, lautet die Erkenntnis: Sicherheitsrelevanter Zustand kann eine eigenständige, ablaufende Ebene sein, getrennt vom Personalisierungszustand, der die alltägliche Interaktion prägt.