Jul, 134 Min. Lesezeit
Frontend
News · OpenAI führt Trusted Contact ein, einen optionalen Benachrichtigungsablauf für Krisenfälle in ChatGPT
Jul, 94 Min. Lesezeit
FrontendOpenAI führt Trusted Contact ein, einen optionalen Benachrichtigungsablauf für Krisenfälle in ChatGPT
Eine neue Einstellung erlaubt Erwachsenen, eine Person zu benennen, die benachrichtigt werden kann, wenn geschulte Prüfer bei einem Gespräch ein ernstes Risiko für Selbstverletzung erkennen — mit einer bewusst knapp gehaltenen Benachrichtigung.
Was die Einstellung der App tatsächlich hinzufügt
Trusted Contact ist eine optionale Funktion, die sich in den ChatGPT-Einstellungen konfigurieren lässt. Ein erwachsener Nutzer (weltweit ab 18, in Südkorea ab 19 Jahren) kann eine Person benennen — einen Freund, ein Familienmitglied oder eine Betreuungsperson —, die benachrichtigt werden kann, wenn die automatisierten Systeme von OpenAI und geschulte Prüfer feststellen, dass der angemeldete Nutzer möglicherweise über Selbstverletzung in einer Weise gesprochen hat, die auf ein ernstes Sicherheitsrisiko hindeutet.
OpenAI versteht die Funktion als zusätzliche Ebene neben den bereits in ChatGPT eingeblendeten lokalen Krisen-Hotlines, nicht als Ersatz für professionelle Hilfe. Die Funktion erweitert die bestehenden Sicherheitsbenachrichtigungen der Kindersicherung für verknüpfte Teenager-Konten auf jeden Erwachsenen, der sich dafür entscheidet.
Der Anmeldeprozess basiert auf Zustimmung und Widerrufbarkeit
Die Mechanik im Frontend ist genau festgelegt. Ein Nutzer fügt genau eine erwachsene Kontaktperson hinzu. Diese Person erhält eine Einladung, die ihre Rolle erklärt, und muss innerhalb einer Woche zustimmen, damit die Funktion aktiviert wird. Lehnt sie ab, kann der Nutzer eine andere Person benennen.
Beide Seiten behalten die Kontrolle: Nutzer können die Kontaktperson in den Einstellungen bearbeiten oder entfernen, und die Kontaktperson kann sich jederzeit über das Hilfe-Center selbst entfernen. Diese beidseitige Zustimmung — der angemeldete Nutzer wählt, und die benannte Person muss aktiv zustimmen — ist die zentrale gestalterische Entscheidung und unterscheidet die Funktion von einer stillen Überwachungsbenachrichtigung.
Die Benachrichtigung ist bewusst knapp gehalten
Wenn die automatisierte Überwachung einen möglichen Hinweis auf Selbstverletzung erkennt, teilt ChatGPT dem Nutzer zunächst mit, dass die Trusted Contact-Person benachrichtigt werden könnte, und ermutigt den Nutzer, selbst Kontakt aufzunehmen — mit vorgeschlagenen Gesprächseinstiegen. Ein kleines Team speziell geschulter Prüfer bewertet die Lage anschließend, bevor irgendetwas versendet wird.
Bestätigen die Prüfer ein ernstes Anliegen, erhält die Kontaktperson eine kurze Benachrichtigung per E-Mail, SMS oder In-App-Nachricht. Entscheidend ist: Diese Nachricht nennt nur den allgemeinen Grund, warum das Thema Selbstverletzung aufkam, sowie einen Link zu fachlicher Beratung — keine Chatdetails oder Gesprächsverläufe. Der Inhalt ist bewusst begrenzt, um die Privatsphäre des angemeldeten Nutzers zu schützen und trotzdem einen echten Check-in in der realen Welt anzustoßen.
Ein menschlicher Prüfer ist eingebunden, mit einem festgelegten Zeitziel
OpenAI erklärt, dass jede Benachrichtigung vor dem Versand eine geschulte menschliche Prüfung durchläuft und dass man sich bemüht, diese Sicherheitsbenachrichtigungen innerhalb von unter einer Stunde zu prüfen. Das ist eine konkrete operative Zusage: Der automatisierte Klassifikator ist ein Auslöser, nicht die entscheidende Instanz, und zwischen Erkennung und Alarmierung stehen ein Mensch und ein Zeitbudget.
OpenAI räumt zudem offen die Fehlermöglichkeiten ein — kein System ist perfekt, und eine Benachrichtigung spiegelt nicht immer genau das wider, was jemand tatsächlich durchmacht. Der Schritt der menschlichen Prüfung soll dieses Risiko falscher Signale abmildern.
Die Konsequenz: Krisenreaktion als Produktoberfläche, nicht nur als Modellverhalten
Was OpenAI hier ausgeliefert hat, ist größtenteils Frontend und Ablauf: ein Eintrag in den Einstellungen, ein Einladungs- und Zustimmungsverfahren, ein Hinweis innerhalb des Gesprächs, eine Prüferwarteschlange mit Zeitziel und eine auf Privatsphäre ausgelegte Nachrichtenvorlage. Die zugrunde liegenden Erkennungs- und Ablehnungsmechanismen gab es bereits; Trusted Contact leitet ein bestätigtes Signal an eine konkrete, vom Nutzer zuvor ausgewählte Person weiter.
Die gestalterische Wette, gestützt durch das APA-Zitat zu sozialer Verbindung als Schutzfaktor, lautet: In einer Krise hilft nicht die bessere Modellantwort am meisten, sondern die Brücke zu einer konkret genannten, realen Person. Für Teams, die Oberflächen für sensible Gespräche entwickeln, ist das auffällige Muster die Schichtung von Zustimmungsschritten und einer menschlichen Prüfung rund um einen automatisierten Klassifikator — wobei genau festgelegt wird, wer informiert wird, wie schnell und wie wenig dabei mitgeteilt wird, als eigenständige Produktentscheidungen.
Find this story relevant to you?
Contact us to find a unique solution
Brauchen Sie einen KI-Engineering-Partner, der auch liefern kann?
Wir helfen Unternehmen dabei, KI in Produkte und Prozesse zu integrieren, wertvolle Workflows zu automatisieren und die zugrunde liegenden Softwaresysteme zu modernisieren.
Weiterführende Beiträge
Weitere Analysen rund um Produktbereitstellung, operative KI und die Systemarbeit, die dafür sorgt, dass der Einsatz in der Praxis Bestand hat.