OpenAI unterstützt die Gründung der Appia Foundation, um KI-Sicherheitsbewertungen interoperabel zu machen

Wozu Appia eigentlich aufgebaut wird

OpenAI gab bekannt, an der Gründung der Appia Foundation beteiligt gewesen zu sein, die bei der Linux Foundation angesiedelt ist. Die erklärte Aufgabe ist eng gefasst und technisch: offene, modulare Spezifikationen zu entwickeln, die bestehende internationale Standards und Rahmenwerke in praktische Bewertungskriterien entlang der gesamten KI-Wertschöpfungskette übersetzen.

Das Problem, das damit angegangen wird, ist Fragmentierung. Modelle, Infrastruktur und Anwendungen werden von unterschiedlichen Organisationen entwickelt, sodass Erkenntnisse über Sicherheit und Fähigkeiten selten reibungslos zwischen ihnen weitergegeben werden. Appias Ansatz ist ein gemeinsames Format, mit dem Dritte die Konformität prüfen und Nachweise erstellen können, die über diese Grenzen hinweg wiederverwendbar sind.

Die Arbeit kann dazu beitragen, eine entscheidende fehlende Vertrauensebene zu schaffen, über die Dritte die Einhaltung von Standards prüfen und dabei klarere, besser wiederverwendbare Nachweise erzeugen – gerade wenn Modelle, Infrastruktur und Anwendungen von unterschiedlichen Organisationen entwickelt werden.Montana Labs

Die Einordnung ist entscheidend. Es handelt sich nicht um einen neuen Benchmark oder ein neues Sicherheitsrahmenwerk. Es ist der Versuch, zu standardisieren, wie Konformität behauptet und überprüft wird, sodass eine von einer Institution geprüfte Aussage von einer anderen anerkannt werden kann, ohne alles von Grund auf neu zu testen.

Die Offenlegungs-Checkliste ist der eigentliche Kern

Versteckt in der Standardsprache findet sich die konkreteste Aussage der Ankündigung. OpenAI verweist auf sein 'gemeinsames Playbook für vertrauenswürdige Bewertungen durch Dritte', das festlegt, was eine Frontier-Bewertung zunehmend offenlegen muss: das getestete System, den Zugriff auf Werkzeuge und das Bewertungsgerüst, die Methoden zur Ermittlung von Fähigkeiten, die verfügbaren Ressourcen sowie die durchgeführten Prüfungen zur Validierung der Ergebnisse.

Diese Liste ist im Grunde eine Spezifikation für Reproduzierbarkeit. Wer schon einmal versucht hat, zwei Modellbewertungen zu vergleichen, weiß, dass die Ergebnisse bedeutungslos sind, wenn man das Testgerüst, den Werkzeugzugriff und die Intensität der Prüfung zur Ermittlung einer Fähigkeit nicht kennt. Diese fünf Punkte zu kodifizieren wäre die Voraussetzung dafür, die Ergebnisse zweier Labore tatsächlich vergleichbar zu machen.

OpenAI verweist zudem auf Testpartnerschaften mit dem US-amerikanischen CAISI und dem britischen AISI und erklärt, deren Arbeit zu Bewertungen von Frontier-Fähigkeiten und Schutzmaßnahmen gegen biologischen Missbrauch habe 'zu konkreten Verbesserungen unserer Systeme geführt'. Das ist eine konkrete Behauptung, dass externe Bewertung ein internes Produkt verändert hat, und sie bildet die empirische Grundlage für das Argument, diese Praktiken ließen sich standardisieren.

Wie das in OpenAIs bestehendes Governance-Gerüst passt

OpenAI positioniert Appia als die nächste Ebene über den Dokumenten, die das Unternehmen bereits veröffentlicht. Das Preparedness Framework wird als interne Grundlage für den Umgang mit ernsten Risiken beschrieben; das Frontier Governance Framework überträgt Teile davon in öffentliche Verpflichtungen wie Risikobewertung, Modellberichte, Sicherheitskontrollen und Vorfallreaktion.

Die Ankündigung unterscheidet zwischen dem Vorhandensein solcher Praktiken und ihrer Übertragbarkeit. Preparedness und Frontier Framework sind OpenAIs eigene Rahmenwerke; Appias erklärtes Ziel ist Interoperabilität 'über Organisationen, Rechtsräume und die gesamte Lieferkette hinweg'. Mit anderen Worten: Das Unternehmen versucht, von der Dokumentation des eigenen Verhaltens zu einem Format zu gelangen, das andere anerkennen können.

Die Ankündigung listet zudem eine umfangreiche Reihe bestehender Mitgliedschaften auf – ISO/IEC JTC 1 SC 42, das vom NIST geleitete AI Consortium, das Frontier Model Forum, die Agentic AI Foundation der Linux Foundation, die Coalition for Secure AI, das Lenkungsgremium von C2PA, IETF und die FIDO Alliance. Appia reiht sich in ein bestehendes Portfolio ein, statt ein neues zu beginnen – ein Punkt, der bei der Einschätzung wichtig ist, wie stark eine einzelne Organisation Ergebnisse tatsächlich vorantreiben kann.

Warum eine Konformitätsebene das schwierigere technische Problem ist

Für Teams, die auf Frontier-Modellen aufbauen, geht es praktisch um Nachweise, nicht um politische Erklärungen. Gelingt Appia dies, würde das Dokument, das ein nachgelagerter Integrator zur Sicherheitsprüfung eines Modells erhält, einem bekannten Schema folgen – mit denselben Feldern zu Werkzeugzugriff, Testgerüst und Ermittlungsmethoden über alle Anbieter hinweg – anstatt eines individuellen PDFs pro Anbieter.

Das ist ein echtes Schnittstellenproblem. Ein Offenlegungsformat zu standardisieren ist nur dann nützlich, wenn die Felder präzise genug sind, um maschinell prüfbar zu sein, und zugleich offen genug, um unterschiedliche Systeme abzudecken. Die Formulierungen der Ankündigung – 'offene, modulare Spezifikationen' und eine 'gemeinsame technische Sprache' – signalisieren die Absicht, nicht aber deren Umsetzung.

Die konkrete Wette dieser Ankündigung lautet, dass Vertrauen zwischen den Prüfstellen – nicht die Tests selbst – das fehlende Element ist. OpenAI setzt darauf, dass eine wiederverwendbare, von Dritten geprüfte und über Rechtsräume hinweg anerkannte Konformitätsebene aus verstreuten Bewertungen Nachweise macht, auf deren Grundlage Regierungen und Integratoren gemeinsam handeln können. Ob Appia eine nutzbare Spezifikation liefert und nicht nur ein weiteres Forum, bleibt abzuwarten.