Το Doppel αυτοματοποιεί την κατάργηση απόπειρων phishing με ένα pipeline πέντε σταδίων GPT-5 και RFT

Η οικονομική λογική που αντιμετωπίζει το Doppel

Η βασική παραδοχή του Doppel ξεκινά από ένα πρόβλημα χρονισμού. Σύμφωνα με την εταιρεία, ένας ιστότοπος πλαστοπροσωπίας μπορεί να ξεκινήσει λειτουργία, να στοχεύσει χιλιάδες χρήστες και να εξαφανιστεί σε λιγότερο από μία ώρα — ενώ τα γεννητικά εργαλεία επιτρέπουν στους επιτήδειους να δημιουργούν εκατοντάδες παραλλαγές σε δευτερόλεπτα. Το παλιό μοντέλο προστασίας από ψηφιακούς κινδύνους, με ανθρώπους να ελέγχουν χειροκίνητα ύποπτους τομείς και προφίλ σε κοινωνικά δίκτυα, καταρρέει όταν οι επιθέσεις φτάνουν ταχύτερα και σε περισσότερες επιφάνειες απ' όσες μπορούν να αξιολογήσουν οι άνθρωποι.

Η δυνατότητα να παράγεις άπειρη πειθώ με σχεδόν μηδενικό κόστος άλλαξε τα πάντα.Montana Labs

Αυτή η φράση του συνιδρυτή και CTO Rahul Madduluri συνοψίζει όλη τη λογική της υλοποίησης. Αν οι επιτήδειοι χρησιμοποιούν ΤΝ για να κλιμακώσουν τις επιθέσεις τους, μια άμυνα βασισμένη σε χειροκίνητο έλεγχο χάνει εξ ορισμού. Η απάντηση του Doppel ήταν να μεταφέρει την ίδια την απόφαση κατηγοριοποίησης στα μοντέλα.

Τι κάνει στην πράξη το pipeline σε κάθε στάδιο

Το Doppel περιγράφει μια ροή πέντε σταδίων και όχι μια απλή κλήση σε ένα μοντέλο, και ο καταμερισμός εργασιών αξίζει προσεκτική ανάγνωση. Εκατομμύρια τομείς, URL και λογαριασμοί καταφθάνουν καθημερινά. Το o4-mini σε συνδυασμό με ευρετικές μεθόδους φιλτράρει τον θόρυβο και εξάγει δομημένα χαρακτηριστικά. Πολλαπλά prompts του GPT-5, καθένα σχεδιασμένο για συγκεκριμένο τύπο απειλής όπως κίνδυνος πλαστοπροσωπίας ή κατάχρηση εμπορικού σήματος, εκτελούνται παράλληλα για να επιβεβαιώσουν την πρόθεση. Μια εκδοχή του o4-mini συντονισμένη με RFT αναθέτει στη συνέχεια μια δομημένη ετικέτα — κακόβουλο, αβλαβές ή ασαφές. Ένα δεύτερο πέρασμα από το GPT-5 επικυρώνει αυτή την απόφαση και συντάσσει μια αιτιολόγηση σε φυσική γλώσσα, και αν η βεβαιότητα ξεπερνά ένα κατώφλι, η επιβολή ενεργοποιείται αυτόματα.

Η σχεδιαστική επιλογή εδώ είναι ότι τα οικονομικότερα μοντέλα χειρίζονται το φιλτράρισμα και την τελική κατηγοριοποίηση, ενώ το GPT-5 αναλαμβάνει την πιο απαιτητική σε συλλογισμό επιβεβαίωση και επαλήθευση. Οι περιπτώσεις με χαμηλή βεβαιότητα ή αντικρουόμενα στοιχεία προωθούνται σε ανθρώπους αναλυτές, των οποίων οι αποφάσεις τροφοδοτούν εκ νέου την εκπαίδευση. Είναι ένα σύστημα σχεδιασμένο ώστε να δαπανά ακριβό υπολογιστικό κόστος συμπερασμού μόνο εκεί όπου η ασάφεια το δικαιολογεί.

Γιατί η συνέπεια, και όχι η ακρίβεια, ήταν ο περιοριστικός παράγοντας

Η πιο διαφωτιστική λεπτομέρεια στην περιγραφή του Doppel είναι το πρόβλημα που ήρθε να λύσει το RFT. Η εταιρεία είχε ήδη δει βελτιώσεις από ένα pipeline ενισχυμένο με LLM. Το εμπόδιο στο οποίο προσέκρουσε ήταν ότι η ίδια απειλή μπορούσε να κριθεί διαφορετικά ανάλογα με τον αναλυτή που την εξέταζε. Το reinforcement fine-tuning μετέτρεψε κάθε απόφαση αναλυτή — κακόβουλο, αβλαβές ή ασαφές — σε βαθμολογημένο παράδειγμα, εκπαιδεύοντας το o4-mini να αναπαράγει την κρίση ειδικών σε οριακές περιπτώσεις.

Ένα πραγματικό όφελος που προέκυψε από το RFT είναι ότι κάνεις τις αποφάσεις αυτού του μοντέλου πιο συνεπείς.Montana Labs

Η διατύπωση του μηχανικού λογισμικού Kiran Arimilli έχει σημασία επειδή η συνέπεια συχνά παραμένει αόρατη στα σκορ των benchmark. Δύο αναλυτές μπορούν να έχουν δίκιο τις περισσότερες φορές ο καθένας και παρόλα αυτά να παράγουν ένα pipeline απρόβλεπτο. Το Doppel προχώρησε ένα βήμα παραπέρα σχεδιάζοντας συναρτήσεις βαθμολόγησης που επιβράβευαν την ποιότητα της αιτιολόγησης, όχι μόνο τη σωστή απάντηση — μοντέλα που συλλογίζονταν με σαφήνεια σημείωναν καλύτερη επίδοση από μοντέλα που απλώς έτυχε να μαντέψουν σωστά.

Οι αυτόματα παραγόμενες αιτιολογήσεις ως μηχανισμός εμπιστοσύνης

Το Doppel κλείνει τον κύκλο επισυνάπτοντας σε κάθε αυτόματη κατάργηση μια αιτιολόγηση παραγόμενη από ΤΝ, εξηγώντας γιατί αφαιρέθηκε μια απειλή. Παλαιότερα αυτή η εξήγηση απαιτούσε παρέμβαση αναλυτή. Αυτή είναι η συγκεκριμένη συνέπεια που αξίζει να επισημανθεί: στην αυτόνομη επιβολή, το αποτέλεσμα του μοντέλου που καθιστά δυνατή την αυτοματοποίηση δεν είναι η ίδια η κατηγοριοποίηση αλλά η εξήγησή της. Οι πελάτες αποκτούν την εμπιστοσύνη να ενεργήσουν άμεσα και το πλαίσιο για να υποστηρίξουν αυτές τις αποφάσεις εσωτερικά προς τα ενδιαφερόμενα μέρη.

Το Doppel αναφέρει ότι οι τομείς (domains) αποτελούν το πιο δυσδιάχειρο κανάλι που χειρίζεται — ασαφή σήματα, περιεχόμενο που αλλάζει συνεχώς, απειλές που εξελίσσονται ταυτόχρονα σε πολλαπλές επιφάνειες — και έχοντας σε μεγάλο βαθμό αυτοματοποιήσει αυτή τη διαδικασία, η εταιρεία σχεδιάζει να επεκτείνει το ίδιο πλαίσιο στα κοινωνικά δίκτυα και τις διαφημίσεις επί πληρωμή, να κλιμακώσει το σύνολο δεδομένων RFT κατά μία τάξη μεγέθους, και να εντάξει το GPT-5 στην εξαγωγή χαρακτηριστικών σε προγενέστερο στάδιο ώστε να ενοποιήσει τα βήματα. Για τις ομάδες εφαρμοσμένης μηχανικής, το δίδαγμα είναι ότι η διάθεση μιας πλήρως αυτοματοποιημένης απόφασης απαιτεί την επίλυση του προβλήματος της εξήγησης παράλληλα με εκείνο της ακρίβειας, καθώς η εμπιστοσύνη, όχι η ωμή ακρίβεια, είναι αυτό που επιτρέπει σε έναν άνθρωπο να αποσυρθεί από τον κύκλο.