Doppel automatizza la rimozione dei contenuti di phishing con una pipeline in cinque fasi basata su GPT-5 e RFT

L'economia contro cui Doppel sta lottando

La premessa di Doppel parte da un problema di tempistica. Secondo l'azienda, un singolo sito di impersonificazione può essere lanciato, colpire migliaia di utenti e scomparire in meno di un'ora — e gli strumenti generativi permettono agli attaccanti di creare centinaia di varianti in pochi secondi. Il vecchio modello di protezione dai rischi digitali, basato su persone che revisionano manualmente domini sospetti e profili social, va in crisi quando gli attacchi arrivano più velocemente e su più fronti di quanti le persone possano valutare.

La capacità di generare persuasione infinita a un costo quasi nullo ha cambiato tutto.Montana Labs

Questa frase del co-fondatore e CTO Rahul Madduluri inquadra tutto il rollout. Se gli attaccanti usano l'IA per scalare, una difesa basata sulla revisione manuale perde per pura aritmetica. La risposta di Doppel è stata spostare la decisione di classificazione stessa dentro i modelli.

Cosa fa realmente la pipeline in ogni fase

Doppel descrive un flusso in cinque fasi piuttosto che un'unica chiamata al modello, e la divisione del lavoro merita di essere letta con attenzione. Arrivano ogni giorno milioni di domini, URL e account. o4-mini più euristiche filtra il rumore ed estrae feature strutturate. Più prompt GPT-5, ciascuno costruito su misura per un tipo di minaccia come il rischio di impersonificazione o l'uso improprio del brand, girano in parallelo per confermare l'intento. Una versione di o4-mini ottimizzata con RFT assegna quindi un'etichetta strutturata — dannoso, benigno o ambiguo. Un secondo passaggio di GPT-5 valida questa decisione e scrive una motivazione in linguaggio naturale, e se la confidenza supera una soglia, l'azione di enforcement viene attivata automaticamente.

La scelta progettuale qui è che i modelli più economici gestiscono il filtraggio e la classificazione finale, mentre GPT-5 si occupa della conferma e verifica che richiede più ragionamento. I casi a bassa confidenza o contraddittori vengono inviati agli analisti umani, le cui decisioni alimentano poi l'addestramento. È un sistema progettato per spendere inferenza costosa solo dove l'ambiguità lo giustifica.

Perché il fattore limitante era la coerenza, non l'accuratezza

Il dettaglio più istruttivo nel racconto di Doppel è cosa l'RFT è stato chiamato a risolvere. L'azienda aveva già visto miglioramenti da una pipeline potenziata con LLM. Il muro contro cui si è scontrata è che la stessa minaccia poteva essere giudicata diversamente a seconda di quale analista la esaminava. Il reinforcement fine-tuning ha trasformato ogni decisione di un analista — dannoso, benigno o poco chiaro — in un esempio graduato, addestrando o4-mini a replicare il giudizio esperto sui casi limite.

Un vero vantaggio emerso dall'RFT è che rendi più coerenti le decisioni di quel modello.Montana Labs

L'inquadramento dell'ingegnere software Kiran Arimilli è importante perché la coerenza spesso è invisibile nei punteggi dei benchmark. Due analisti che hanno ragione nella maggior parte dei casi possono comunque produrre una pipeline che nessuno riesce a prevedere. Doppel è andata oltre progettando funzioni di valutazione che premiavano la qualità della spiegazione, non solo le risposte corrette — i modelli che ragionavano in modo chiaro ottenevano punteggi migliori di quelli che per caso indovinavano.

Le motivazioni generate automaticamente come meccanismo di fiducia

Doppel chiude il cerchio allegando una motivazione generata dall'IA a ogni rimozione automatizzata, spiegando perché una minaccia è stata eliminata. In precedenza questa spiegazione richiedeva l'intervento di un analista. Questa è l'implicazione specifica che vale la pena sottolineare: nell'enforcement autonomo, l'output del modello che rende possibile l'automazione non è la classificazione in sé, ma la sua spiegazione. I clienti ottengono la sicurezza per agire rapidamente e il contesto per difendere quelle decisioni con gli stakeholder interni.

Doppel afferma che i domini sono il canale più difficile da gestire — segnali confusi, contenuti in costante cambiamento, minacce che evolvono su più fronti contemporaneamente — e avendolo in gran parte automatizzato, l'azienda prevede di estendere lo stesso framework ai social media e agli annunci pubblicitari, di ampliare il proprio dataset RFT di un ordine di grandezza e di spingere GPT-5 nell'estrazione delle feature a monte per consolidare le fasi. Per i team applicati, la lezione è che rilasciare una decisione completamente automatizzata richiede di risolvere il problema della spiegazione insieme a quello dell'accuratezza, perché è la fiducia, non la pura precisione, a permettere a un umano di uscire dal ciclo.