Doppel automatiza a remoção de sites de phishing com um pipeline de cinco etapas usando GPT-5 e RFT

A lógica econômica que a Doppel está combatendo

A premissa da Doppel começa com um problema de tempo. Segundo a empresa, um único site de falsificação pode ser lançado, atingir milhares de usuários e desaparecer em menos de uma hora — e as ferramentas generativas permitem que os atacantes criem centenas de variantes em segundos. O modelo antigo de proteção contra riscos digitais, com humanos revisando manualmente domínios e perfis suspeitos, não se sustenta quando os ataques chegam mais rápido e em mais frentes do que as pessoas conseguem avaliar.

A capacidade de gerar persuasão infinita a um custo quase nulo mudou tudo.Montana Labs

Essa frase do cofundador e CTO Rahul Madduluri resume toda a implementação. Se os atacantes usam IA para escalar, uma defesa baseada em revisão manual perde na conta pura e simples. A resposta da Doppel foi transferir a própria decisão de classificação para os modelos.

O que o pipeline realmente faz em cada etapa

A Doppel descreve um fluxo de cinco etapas, e não uma única chamada de modelo, e vale a pena entender bem essa divisão de trabalho. Milhões de domínios, URLs e contas chegam diariamente. O o4-mini combinado com heurísticas filtra o ruído e extrai características estruturadas. Vários prompts do GPT-5, cada um voltado para um tipo específico de ameaça, como risco de falsificação de identidade ou uso indevido de marca, rodam em paralelo para confirmar a intenção. Uma versão do o4-mini ajustada com RFT então atribui um rótulo estruturado — malicioso, benigno ou ambíguo. Uma segunda passagem do GPT-5 valida essa decisão e escreve uma justificativa em linguagem natural, e, se a confiança supera um limite, a ação de remoção é disparada automaticamente.

A escolha de design aqui é que os modelos mais baratos cuidam da filtragem e da classificação final, enquanto o GPT-5 faz a confirmação e verificação que exigem raciocínio mais pesado. Casos com baixa confiança ou resultados conflitantes vão para analistas humanos, cujas decisões alimentam o retreinamento. É um sistema pensado para gastar inferência cara só onde a ambiguidade justifica.

Por que a consistência, não a precisão, era o fator limitante

O detalhe mais revelador no relato da Doppel é o que o RFT foi trazido para resolver. A empresa já tinha visto ganhos com um pipeline potencializado por LLM. O obstáculo em que bateu foi que a mesma ameaça podia ser julgada de forma diferente dependendo de qual analista olhasse para ela. O fine-tuning por reforço transformou cada decisão de analista — malicioso, benigno ou incerto — em um exemplo com nota, treinando o o4-mini para replicar o julgamento especializado em casos limítrofes.

Um benefício real que veio do RFT é tornar as decisões desse modelo mais consistentes.Montana Labs

A forma como o engenheiro de software Kiran Arimilli coloca isso é importante, porque a consistência costuma ser invisível nas métricas de benchmark. Dois analistas que acertam na maioria das vezes ainda podem gerar um pipeline totalmente imprevisível. A Doppel foi além e criou funções de avaliação que recompensavam a qualidade da explicação, não só a resposta certa — modelos que raciocinavam com clareza pontuavam melhor do que modelos que só acertavam no chute.

Justificativas geradas automaticamente como mecanismo de confiança

A Doppel fecha o ciclo anexando uma justificativa gerada por IA a cada remoção automática, explicando por que aquela ameaça foi retirada do ar. Antes, essa explicação exigia a intervenção de um analista. Esse é o ponto específico que merece destaque: na aplicação autônoma de regras, o que viabiliza a automação não é a classificação em si, mas a explicação dela. Isso dá aos clientes a confiança para agir rapidamente e o contexto para justificar essas decisões internamente para outras partes interessadas.

A Doppel afirma que domínios são o canal mais difícil de lidar — sinais confusos, conteúdo em constante mudança, ameaças evoluindo em várias frentes ao mesmo tempo — e, tendo automatizado boa parte desse processo, a empresa planeja estender o mesmo modelo para redes sociais e anúncios pagos, ampliar seu conjunto de dados de RFT em uma ordem de grandeza e levar o GPT-5 para etapas anteriores de extração de características, consolidando fases do pipeline. Para equipes de aplicação prática, a lição é que lançar uma decisão totalmente automatizada exige resolver o problema da explicação junto com o da precisão, porque é a confiança, e não a precisão bruta, que permite tirar o humano do circuito.