Το OpenAI συνδυάζει τρία επίπεδα πιστοποίησης προέλευσης: συμβατότητα C2PA, υδατογραφήματα SynthID και έναν δημόσιο επαληθευτή

Τι ακριβώς κυκλοφόρησε το OpenAI σε αυτή την ενημέρωση

Το OpenAI ενσωμάτωσε τρεις συγκεκριμένες κινήσεις σε μία ανακοίνωση. Πρώτον, έγινε Πιστοποιημένο Προϊόν Δημιουργίας C2PA, κάτι που η εταιρεία παρουσιάζει ως έναν αξιόπιστο τρόπο για τις πλατφόρμες να διαβάζουν, να διατηρούν και να μεταφέρουν τα μεταδεδομένα προέλευσης που επισυνάπτει στο περιεχόμενο που δημιουργείται. Δεύτερον, προσέθεσε το υδατογράφημα SynthID του Google DeepMind σε εικόνες που δημιουργούνται μέσω του ChatGPT, του Codex ή του API του OpenAI. Τρίτον, άνοιξε μια προεπισκόπηση ενός δημόσιου εργαλείου επαλήθευσης που ελέγχει μια εικόνα που έχει μεταφορτωθεί τόσο για Content Credentials όσο και για SynthID.

Τίποτα από αυτά δεν αποτελεί εντελώς νέα κατεύθυνση. Το OpenAI επισυνάπτει Content Credentials σε εικόνες από το 2024, ξεκινώντας από το DALL·E 3 και αργότερα το ImageGen και το Sora, και συμμετέχει στην Steering Committee του C2PA. Το νέο στοιχείο είναι η προσθήκη ενός υδατογραφήματος πάνω στα μεταδεδομένα και η παροχή στο κοινό της δυνατότητας να εξετάζει και τα δύο.

Η στρωματοποίηση υπάρχει επειδή τα μεταδεδομένα δεν επιβιώνουν

Το πιο ειλικρινές σημείο της ανακοίνωσης είναι η διάγνωση του γιατί ένα μόνο σήμα δεν αρκεί. Το OpenAI δηλώνει ξεκάθαρα ότι τα μεταδεδομένα C2PA μπορούν να αφαιρεθούν, να χαθούν κατά τη μεταφόρτωση και τη λήψη, ή να καταστραφούν από αλλαγές μορφότυπου, αλλαγή μεγέθους και στιγμιότυπα οθόνης. Αυτή είναι μια άμεση παραδοχή ότι η προσέγγιση κρυπτογραφικής υπογραφής στην οποία έχει επενδύσει από το 2024 αποτυγχάνει απέναντι στον πιο συνηθισμένο χειρισμό που υφίσταται το περιεχόμενο online.

Το C2PA βοηθά το περιεχόμενο να μεταφέρει λεπτομερές πλαίσιο· το SynthID βοηθά να διατηρηθεί ένα σήμα όταν τα μεταδεδομένα δεν επιβιώνουν. Η υδατογράφηση μπορεί να είναι πιο ανθεκτική σε μετασχηματισμούς όπως τα στιγμιότυπα οθόνης, ενώ τα μεταδεδομένα μπορούν να προσφέρουν περισσότερη πληροφορία από ένα υδατογράφημα και μόνο.Montana Labs

Πρόκειται για καταμερισμό εργασιών, όχι για επικάλυψη. Τα μεταδεδομένα μεταφέρουν πλουσιότερο πλαίσιο—από πού προήλθε το περιεχόμενο, πώς δημιουργήθηκε ή επεξεργάστηκε, ποιος το υπέγραψε—αλλά είναι ευάλωτα. Το υδατογράφημα μεταφέρει λιγότερη πληροφορία αλλά επιβιώνει σε ένα στιγμιότυπο οθόνης. Το στοίχημα είναι ότι ο συνδυασμός των δύο καλύπτει περισσότερες πραγματικές περιπτώσεις αποτυχίας από το καθένα ξεχωριστά.

Ένα εργαλείο επαλήθευσης που αρνείται να μαντέψει

Το εργαλείο επαλήθευσης σε προεπισκόπηση είναι σκόπιμα περιορισμένο. Στην κυκλοφορία του απαντά μόνο σε ερωτήματα σχετικά με περιεχόμενο που δημιουργήθηκε από το OpenAI, ελέγχοντας αν μια εικόνα που έχει μεταφορτωθεί δημιουργήθηκε μέσω του ChatGPT, του API του OpenAI ή του Codex, αναζητώντας τα σήματα προέλευσής της. Βασίζεται στον ταξινομητή ανίχνευσης εικόνων που το OpenAI παρουσίασε σε ερευνητική προεπισκόπηση το 2024.

Η πιο σημαντική σχεδιαστική επιλογή είναι το τι αρνείται να δηλώσει το εργαλείο. Το OpenAI αναφέρει ότι αν δεν εντοπιστούν μεταδεδομένα ή υδατογράφημα, το εργαλείο δεν θα καταλήξει στο συμπέρασμα ότι η εικόνα δεν δημιουργήθηκε με τα εργαλεία του—καθώς τα σήματα μπορούν να αφαιρεθούν. Αυτή η άρνηση να συμπεράνει απουσία από ένα σήμα που λείπει είναι η ορθή στάση για έναν ανιχνευτή, και έχει μεγαλύτερη σημασία από την ίδια την ανίχνευση. Ένα εργαλείο που θα δήλωνε με σιγουριά «όχι ΤΝ» κάθε φορά που δεν βρίσκει τίποτα θα ήταν ενεργά παραπλανητικό, καθώς η αφαίρεση ενός υδατογραφήματος είναι ακριβώς αυτό που θα έκανε ένας κακόβουλος χρήστης.

Το κενό διαλειτουργικότητας που αφήνει ανοιχτό αυτή η ενημέρωση

Ο συγκεκριμένος περιορισμός που αξίζει προσοχή είναι το πεδίο εφαρμογής. Το εργαλείο επαλήθευσης απαντά στο «δημιουργήθηκε αυτό από το OpenAI;»—όχι στο «δημιουργήθηκε αυτό από ΤΝ;». Η ενσωμάτωση του SynthID που υιοθετεί το OpenAI είναι τεχνολογία του Google DeepMind, οπότε ένα κοινό υπόστρωμα υδατογράφησης μεταξύ δύο μεγάλων παρόχων γεννητικής ΤΝ είναι τουλάχιστον νοητό, και το OpenAI δηλώνει ότι στοχεύει να υποστηρίξει διεπιχειρησιακή επαλήθευση τους επόμενους μήνες και τελικά περισσότερους τύπους περιεχομένου.

Μέχρι να συμβεί αυτό, η πιστοποίηση προέλευσης παραμένει περιορισμένη ανά πάροχο: κάθε γεννήτρια μπορεί να εγγυηθεί μόνο για τη δική της παραγωγή, και ένας επαληθευτής που αναγνωρίζει τα σήματα μόνο μιας εταιρείας δίνει στους χρήστες μια μερική εικόνα. Η αξία της συμβατότητας με το C2PA—ότι η προέλευση επιβιώνει και πέρα από την πρώτη πλατφόρμα—αποδίδει πλήρως μόνο όταν οι πλατφόρμες και άλλες γεννήτριες όντως διαβάζουν και διατηρούν αυτά τα σήματα. Το OpenAI έχει χτίσει τα επίπεδα από τη δική του πλευρά· το διαλειτουργικό οικοσύστημα που περιγράφει εξαρτάται από το αν φορείς που δεν ελέγχει θα υιοθετήσουν τα ίδια πρότυπα και θα σέβονται τα μεταδεδομένα αντί να τα αφαιρούν κατά τη μεταφόρτωση.