OpenAI schlägt im Vorfeld des G7-Gipfels in Évian ein internationales Institut für KI-Sicherheit bei Jugendlichen vor

Die Forderung ist institutionell gedacht, nicht nur symbolisch

OpenAI nutzt den G7-Gipfel in Évian, Frankreich, um eine ständige Institution für die KI-Sicherheit von Jugendlichen zu fordern. Die Botschaft ist bewusst gewählt: Ein Gipfel schafft einen Moment, doch das Unternehmen argumentiert, Jugendschutz brauche Kontinuität, die über eine einzelne Zusammenkunft hinausreicht.

Bemerkenswert ist, dass OpenAI nicht auf einer völlig neuen Organisation besteht. Das Unternehmen bietet Alternativen an – ein neues internationales Institut oder ein bestehendes bzw. neu gegründetes nationales KI-Institut mit einem globalen Mandat, um Forschung, Erkenntnisse und Leitlinien zu teilen. Ausdrücklich betont OpenAI, dass es auf die Funktion ankomme, nicht auf die Form.

Diese Flexibilität senkt die Hürde für Regierungen, zuzustimmen. Statt eine völlig neue Vertragsorganisation auszuhandeln, könnte eine G7-Regierung einfach den Auftrag einer Institution erweitern, die sie bereits finanziert. Zugleich kann OpenAI auf bestehende Strukturen verweisen, mit denen das Unternehmen bereits verbunden ist: das Youth AI Safety Institute von Common Sense Media, das die OpenAI Foundation unterstützt, sowie die Zusammenarbeit mit der American Federation of Teachers.

Altersschätzung ist das Fundament, auf dem alles andere aufbaut

Von den acht Prinzipien, die OpenAI formuliert, trägt das erste die größte Last. Das Unternehmen argumentiert, Anbieter sollten erkennen können, wenn ein Nutzer minderjährig ist, und altersgerechte Schutzmaßnahmen anwenden – mithilfe datenschutzfreundlicher Altersschätzung, um Minderjährige von Erwachsenen zu unterscheiden, und im Zweifel auf Schutzmechanismen zurückgreifen, wenn das Alter nicht bestimmt werden kann.

OpenAI räumt die Abhängigkeit offen ein: „Ohne dieses Fundament erreichen selbst die bestgemeinten Jugendschutzmaßnahmen möglicherweise nicht die jungen Menschen, für die sie gedacht sind.“ Jedes nachgelagerte Prinzip – Kindersicherungen, Protokolle bei Selbstverletzung, Inhaltsbeschränkungen – setzt voraus, dass das System überhaupt erkennen kann, wer minderjährig ist.

Das bedeutet, Anbieter zu verpflichten, wirksame, datenschutzfreundliche Altersschätzung einzusetzen, um Minderjährige von Erwachsenen zu unterscheiden, und im Zweifel – wenn das Alter eines Nutzers nicht bestimmbar ist – auf schützende Vorkehrungen zurückzugreifen.Montana Labs

Laut dem Unternehmen prägt dieser Grundsatz ChatGPT bereits: Es beschreibt fortgeschrittene Systeme zur Altersvorhersage, die stärkere Schutzmaßnahmen anwenden, wenn jemand unter 18 sein könnte, sowie eine Standardeinstellung auf stärkeren Schutz bei unklarem Alter. Das Prinzip, das OpenAI kodifiziert sehen will, beschreibt im Grunde ein System, das das Unternehmen bereits gebaut hat – und an dem sich nun auch die Konkurrenz messen lassen soll.

Bei Audits und jährlichen Bewertungen bekommt die Durchsetzung Biss

Zwei Prinzipien heben den Vorschlag von einer freiwilligen Selbstverpflichtung auf eine messbare Ebene. OpenAI fordert, dass Anbieter jährliche Risikobewertungen zur Jugendsicherheit durchführen und verhältnismäßige Schutzmaßnahmen umsetzen – wobei sowohl Schäden als auch positive Effekte wie Lernfortschritt und Kompetenzaufbau abgewogen werden.

Das zweite ist die unabhängige Prüfung, gestützt auf gemeinsame Standards, die interoperable Audits über Länder hinweg ermöglichen. Genau dieses Wort – interoperabel – ist das praktisch entscheidende. Ein einziges Audit, das mehrere Regierungen zufriedenstellt, ist für ein global tätiges Unternehmen deutlich günstiger als separate nationale Prüfungen – und es ist der Mechanismus, über den ein internationales Institut tatsächlich Mehrwert schaffen würde, statt nur zusätzlichen Papierkram.

OpenAI stützt seinen evidenzbasierten Ansatz zudem auf Einsatzdaten und verweist auf Estlands landesweite Einführung von ChatGPT an Schulen, wo das Unternehmen gemeinsam mit Stanford und estnischen Forschern die Auswirkungen untersucht. Im Rahmen des Programms Education for Countries nennt OpenAI Estland, Griechenland und Singapur als Partner für forschungsgestützte Einführungen.

Wozu sich OpenAI mit dieser Ankündigung tatsächlich verpflichtet

Das unmittelbare Ergebnis ist diplomatischer Natur: OpenAI nimmt am Leaders' Summit teil und bringt sein OpenAI Forum nach Paris, wo Frankreichs Botschafterin für KI- und Digitalfragen, Clara Chappaz, gemeinsam mit Chief Global Affairs Officer Chris Lehane und Vertretern der Jugendsicherheit von iRaise/Everyone.AI auftreten wird.

Die inhaltliche Verpflichtung besteht darin, dass OpenAI selbst an den Prinzipien gemessen werden möchte, die es vorschlägt. Das Unternehmen verweist auf verstärkte Schutzmaßnahmen für Nutzer unter 18 Jahren, Kindersicherungen mit proaktiven Benachrichtigungen sowie eigene Grundsätze für Minderjährige in seiner Model Spec, die Selbstverletzung, gefährliche Aktivitäten, grafische Inhalte, Körperbild und Geheimhaltung betreffen.

Die konkrete Implikation ist, dass OpenAI versucht, seine eigenen bestehenden Produktfunktionen – Altersvorhersage, Kindersicherungen, Model-Spec-Regeln – zu einem branchenweiten Mindeststandard zu machen, der über internationale Audit-Standards durchgesetzt wird. Gelingt das, wird die aktuelle Umsetzung des Unternehmens zur Referenzuntergrenze, und die Last des Aufholens liegt bei jenen Anbietern, die solche Systeme noch nicht gebaut haben. Das ist der eigentliche Hebel hinter dem Institutsvorschlag – und es bleibt zu beobachten, ob die G7-Regierungen die Formulierung zu interoperablen Audits übernehmen, die daraus eine verbindliche Regelung machen würde.