Πώς το Sora ενσωματώνει την ασφάλεια στην επιφάνεια του προϊόντος, όχι μόνο στο μοντέλο

Η προέλευση είναι ένα στοιχείο που αποτυπώνεται στην απόδοση, όχι μια σημαία στο backend

Η OpenAI αναφέρει ότι κάθε βίντεο του Sora φέρει τόσο ορατά όσο και αόρατα σήματα προέλευσης. Το αόρατο επίπεδο είναι μεταδεδομένα C2PA μαζί με εσωτερικά εργαλεία αναζήτησης αντίστροφης εικόνας και ήχου που εντοπίζουν την προέλευση ενός κλιπ πίσω στο Sora. Το ορατό επίπεδο είναι το κομμάτι που βλέπουν πράγματι οι χρήστες.

Αυτό το ορατό επίπεδο περιγράφεται ως ένα δυναμικά κινούμενο υδατογράφημα που περιλαμβάνει το όνομα του δημιουργού. Ένα κινούμενο υδατογράφημα είναι μια απόφαση απόδοσης (rendering) που λαμβάνεται μέσα στο pipeline του βίντεο και εμφανίζεται στην επιφάνεια όπου καταναλώνεται το περιεχόμενο. Αλλάζει το πώς φαίνεται φυσικά το αποτέλεσμα, όχι μόνο ποια μεταδεδομένα επισυνάπτονται από πίσω.

Η διάκριση έχει σημασία γιατί τα μεταδεδομένα αφαιρούνται εύκολα, ενώ τα αόρατα σήματα απαιτούν ειδικά εργαλεία για να διαβαστούν. Ένα υδατογράφημα με το όνομα του δημιουργού είναι το μοναδικό σήμα που ένα άτομο που κάνει scroll σε μια ροή περιεχομένου μπορεί να αντιληφθεί χωρίς κανένα εργαλείο — γι' αυτό η OpenAI δεσμεύεται ότι τα κλιπ image-to-video με πραγματικά πρόσωπα «θα φέρουν πάντα υδατογραφήματα κατά την κοινοποίηση».

Η συναίνεση μετακινείται στη ροή μεταφόρτωσης

Η πιο συγκεκριμένη λεπτομέρεια για το προϊόν είναι ο τρόπος που η OpenAI χειρίζεται τη μεταφόρτωση φωτογραφιών πραγματικών προσώπων. Πριν ο χρήστης μπορέσει να δημιουργήσει βίντεο από μια εικόνα που περιλαμβάνει κάποιο πρόσωπο, πρέπει να δηλώσει ότι έχει τη συναίνεση των ανθρώπων που εμφανίζονται και τα δικαιώματα επί του υλικού.

Μια δήλωση συναίνεσης είναι μια πύλη στο frontend — ένα σημείο ελέγχου που ο χρήστης περνάει μέσα στο περιβάλλον χρήσης πριν προχωρήσει η δημιουργία. Η OpenAI προσθέτει αυστηρότερα μέτρα ασφάλειας πάνω σε αυτές τις δημιουργίες, και ακόμα πιο αυστηρά για εικόνες που περιλαμβάνουν παιδιά ή άτομα με νεανική εμφάνιση.

Το χαρακτηριστικό των χαρακτήρων (πρώην cameo) επεκτείνει αυτό σε ένα μοντέλο δικαιωμάτων. Η OpenAI δηλώνει ότι μόνο το ίδιο το πρόσωπο αποφασίζει ποιος μπορεί να χρησιμοποιήσει τον χαρακτήρα του, η πρόσβαση μπορεί να ανακληθεί οποιαδήποτε στιγμή, και κάθε βίντεο που χρησιμοποιεί έναν χαρακτήρα —συμπεριλαμβανομένων προσχεδίων που έχουν φτιάξει άλλοι χρήστες— είναι ορατό σε αυτό το πρόσωπο για επισκόπηση, διαγραφή ή αναφορά.

Η ροή περιεχομένου και τα μηνύματα διαμορφώνονται για τον χρήστη, όχι μόνο φιλτράρονται

Οι προστασίες για εφήβους αφορούν αποκλειστικά τη συμπεριφορά της εφαρμογής. Τα προφίλ εφήβων δεν προτείνονται σε ενήλικες, οι ενήλικες δεν μπορούν να ξεκινήσουν μηνύματα με εφήβους, και εξ ορισμού οι έφηβοι αντιμετωπίζουν όρια στο πόσο συνεχόμενα μπορούν να κάνουν scroll.

Ένα προεπιλεγμένο όριο κύλισης είναι κάτι ασυνήθιστο να το βλέπει κανείς να αναφέρεται ως χαρακτηριστικό ασφάλειας. Είναι ένας περιορισμός σχεδιασμού στην ίδια την επιφάνεια κατανάλωσης, όχι ένα φίλτρο περιεχομένου. Οι γονικοί έλεγχοι στο ChatGPT μπορούν επίσης να ενεργοποιούν ή να απενεργοποιούν αν οι έφηβοι στέλνουν και λαμβάνουν προσωπικά μηνύματα, και να αλλάζουν τη ροή περιεχομένου του Sora σε μια μη εξατομικευμένη έκδοση.

Στο κομμάτι της προσφυγής, η OpenAI αναφέρει ότι κάθε βίντεο, προφίλ, προσωπικό μήνυμα, σχόλιο και χαρακτήρας μπορούν να αναφερθούν, και ο αποκλεισμός ενός λογαριασμού εμποδίζει αυτόν τον λογαριασμό από το να δει το προφίλ ή τις αναρτήσεις σας, να χρησιμοποιήσει τον χαρακτήρα σας ή να σας στείλει μήνυμα. Όλα αυτά είναι δυνατότητες του περιβάλλοντος χρήσης που ο χρήστης χειρίζεται απευθείας.

Η γραμμή για τον ήχο και τη μουσική τραβιέται στο prompt

Η OpenAI σημειώνει ότι η προσθήκη ήχου ανεβάζει τον πήχη για την ασφάλεια. Το Sora σκανάρει απομαγνητοφωνήσεις της παραγόμενης ομιλίας για παραβιάσεις πολιτικής και μπλοκάρει προσπάθειες δημιουργίας μουσικής που μιμείται ζωντανούς καλλιτέχνες ή υπάρχοντα έργα.

Το άρθρο είναι ειλικρινές ότι αυτό είναι δύσκολο: «Η προσθήκη ήχου στο Sora ανεβάζει τον πήχη για την ασφάλεια, και ενώ οι τέλειες προστασίες είναι δύσκολες, συνεχίζουμε να επενδύουμε σοβαρά σε αυτόν τον τομέα».

Τα συστήματά μας έχουν σχεδιαστεί για να εντοπίζουν και να σταματούν τέτοιου είδους prompts, και τηρούμε τα αιτήματα αφαίρεσης από δημιουργούς που πιστεύουν ότι ένα αποτέλεσμα του Sora παραβιάζει το έργο τους.Montana Labs

Τι σημαίνει αυτό για τις ομάδες που φτιάχνουν generative frontends

Το άρθρο για το Sora περιγράφει την ασφάλεια ως ένα σύνολο επιφανειών που αγγίζει ο χρήστης: μια δήλωση συναίνεσης πριν τη μεταφόρτωση, ένα κινούμενο υδατογράφημα στο αποτέλεσμα, ένας πίνακας δικαιωμάτων σε έναν χαρακτήρα, ένα όριο κύλισης σε μια ροή περιεχομένου, ένα κουμπί αναφοράς και αποκλεισμού σε κάθε αντικείμενο. Μεγάλο μέρος της επιβολής βρίσκεται εκεί όπου είναι ο χρήστης, όχι μόνο μέσα στο μοντέλο.

Υπάρχει επίσης μια επιφύλαξη ενσωματωμένη στο ίδιο το έγγραφο. Φέρει ημερομηνία 23 Μαρτίου 2026, αναφέρει μια «προηγούμενη έκδοση», και δηλώνει ότι από τις 26 Απριλίου 2026 το προϊόν Sora δεν είναι πλέον διαθέσιμο. Οι ομάδες που το διαβάζουν ως πρότυπο θα έπρεπε να το αντιμετωπίζουν ως ένα στιγμιότυπο ενός προϊόντος που εξελίσσεται ταχύτατα, όχι ως ένα οριστικό πρότυπο — η επιφάνεια ασφάλειας που περιγράφεται εδώ αναθεωρούνταν ήδη τη στιγμή που κυκλοφορούσε.