Doppel automatisiert die Bekämpfung von Phishing mit einer fünfstufigen GPT-5- und RFT-Pipeline

Die Ökonomie, gegen die Doppel kämpft

Doppels Ausgangspunkt ist ein Timing-Problem. Laut Unternehmensangaben kann eine einzelne Impersonation-Website live gehen, Tausende Nutzer angreifen und innerhalb einer Stunde wieder verschwinden – generative Tools erlauben es Angreifern zudem, in Sekunden Hunderte Varianten zu erzeugen. Das alte Modell des digitalen Risikoschutzes, bei dem Menschen verdächtige Domains und Social-Profile manuell prüfen, scheitert, wenn Angriffe schneller und über mehr Kanäle eintreffen, als Menschen bewerten können.

Die Fähigkeit, praktisch kostenlos unbegrenzt überzeugende Inhalte zu erzeugen, hat alles verändert.Montana Labs

Dieser Satz von Mitgründer und CTO Rahul Madduluri bringt den gesamten Rollout auf den Punkt. Wenn Angreifer KI zur Skalierung nutzen, verliert eine auf manueller Prüfung basierende Verteidigung schlicht rein rechnerisch. Doppels Antwort bestand darin, die Klassifizierungsentscheidung selbst in Modelle zu verlagern.

Was die Pipeline in jeder Stufe tatsächlich leistet

Doppel beschreibt einen fünfstufigen Ablauf statt eines einzelnen Modellaufrufs, und die Aufgabenteilung lohnt eine genauere Betrachtung. Täglich gehen Millionen von Domains, URLs und Accounts ein. o4-mini filtert zusammen mit Heuristiken das Rauschen heraus und extrahiert strukturierte Merkmale. Mehrere GPT-5-Prompts, jeweils speziell auf einen Bedrohungstyp wie Impersonation-Risiko oder Markenmissbrauch zugeschnitten, laufen parallel, um die Absicht zu bestätigen. Eine per RFT feinabgestimmte Version von o4-mini vergibt anschließend ein strukturiertes Label – bösartig, unbedenklich oder unklar. Ein zweiter GPT-5-Durchlauf validiert diese Entscheidung und formuliert eine Begründung in natürlicher Sprache; überschreitet die Konfidenz einen Schwellenwert, greift die Durchsetzung automatisch.

Der Designgedanke dahinter: günstigere Modelle übernehmen Filterung und finale Klassifizierung, während GPT-5 die aufwendige Bestätigung und Verifizierung leistet, die viel Reasoning erfordert. Fälle mit geringer Konfidenz oder widersprüchlichen Signalen werden an menschliche Analysten weitergeleitet, deren Entscheidungen wiederum ins Training zurückfließen. Es ist ein System, das darauf ausgelegt ist, teure Inferenz nur dort einzusetzen, wo die Unklarheit dies rechtfertigt.

Warum Konsistenz, nicht Genauigkeit, der limitierende Faktor war

Das aufschlussreichste Detail in Doppels Darstellung ist, was RFT eigentlich beheben sollte. Das Unternehmen hatte bereits Fortschritte durch eine LLM-gestützte Pipeline erzielt. An eine Grenze stieß man dort, wo dieselbe Bedrohung je nach zuständigem Analysten unterschiedlich beurteilt wurde. Reinforcement Fine-Tuning verwandelte jede Analystenentscheidung – bösartig, unbedenklich oder unklar – in ein bewertetes Beispiel und trainierte o4-mini darauf, das Urteil von Experten bei Grenzfällen nachzubilden.

Ein echter Vorteil von RFT ist, dass die Entscheidungen dieses Modells dadurch konsistenter werden.Montana Labs

Die Formulierung von Software-Ingenieur Kiran Arimilli trifft einen wichtigen Punkt, denn Konsistenz zeigt sich in Benchmark-Werten oft gar nicht. Zwei Analysten, die jeweils meist richtig liegen, können trotzdem eine Pipeline erzeugen, deren Verhalten niemand vorhersagen kann. Doppel ging noch weiter und entwarf Bewertungsfunktionen, die nicht nur richtige Antworten, sondern auch die Qualität der Begründung honorierten – Modelle mit klarer Argumentation schnitten besser ab als Modelle, die nur zufällig richtig rieten.

Automatisch generierte Begründungen als Vertrauensmechanismus

Doppel schließt den Kreis, indem jeder automatisierten Entfernung eine KI-generierte Begründung beigefügt wird, die erklärt, warum eine Bedrohung entfernt wurde. Zuvor erforderte diese Erklärung das Eingreifen eines Analysten. Genau das ist die entscheidende Erkenntnis: Bei autonomer Durchsetzung ist es nicht die Klassifizierung selbst, die die Automatisierung ermöglicht, sondern deren Begründung. Kunden erhalten so das Vertrauen, schnell zu handeln, und zugleich den Kontext, um diese Entscheidungen intern gegenüber Stakeholdern zu rechtfertigen.

Laut Doppel sind Domains der schwierigste Kanal, den das Unternehmen bearbeitet – unübersichtliche Signale, ständig wechselnde Inhalte, Bedrohungen, die sich gleichzeitig über mehrere Kanäle weiterentwickeln. Nachdem dieser Bereich weitgehend automatisiert ist, plant das Unternehmen, dasselbe Framework auf Social Media und bezahlte Anzeigen auszuweiten, seinen RFT-Datensatz um eine Größenordnung zu vergrößern und GPT-5 auch in die vorgelagerte Merkmalsextraktion einzubinden, um Stufen zusammenzulegen. Für praxisorientierte Teams lautet die Lehre: Eine vollständig automatisierte Entscheidung auszurollen erfordert, das Erklärungsproblem ebenso zu lösen wie das Genauigkeitsproblem – denn Vertrauen, nicht reine Präzision, ist es, was den Menschen aus dem Entscheidungsprozess entlässt.