Η OpenAI προτείνει τη δημιουργία διεθνούς ινστιτούτου για την ασφάλεια νέων στην ΤΝ πριν την G7 στο Évian

Το αίτημα είναι θεσμικό, όχι απλώς φιλόδοξο

Η OpenAI εκμεταλλεύεται τη Σύνοδο Κορυφής των Ηγετών της G7 στο Évian της Γαλλίας για να ζητήσει τη δημιουργία ενός μόνιμου φορέα αποκλειστικά αφιερωμένου στην ασφάλεια νέων στην ΤΝ. Η επιλογή είναι σκόπιμη: μια σύνοδος κορυφής δημιουργεί μια στιγμή, αλλά η εταιρεία υποστηρίζει ότι η ασφάλεια των νέων χρειάζεται συνέχεια που να ξεπερνά μια μεμονωμένη συνάντηση.

Αξίζει να σημειωθεί ότι η OpenAI δεν επιμένει σε έναν εντελώς νέο οργανισμό. Προσφέρει εναλλακτικές — ένα νέο διεθνές ινστιτούτο, ή την ανάθεση διεθνούς εντολής σε ένα υπάρχον ή νεοσύστατο εθνικό ινστιτούτο ΤΝ, ώστε να μοιράζεται έρευνα, στοιχεία και καθοδήγηση. Η εταιρεία δηλώνει ρητά ότι το σημαντικό είναι η λειτουργία, όχι η μορφή.

Αυτή η ευελιξία διευκολύνει τις κυβερνήσεις να συμφωνήσουν. Αντί να διαπραγματεύεται από την αρχή έναν νέο διακρατικό οργανισμό, μια κυβέρνηση της G7 θα μπορούσε απλώς να επεκτείνει την αρμοδιότητα ενός φορέα που ήδη χρηματοδοτεί. Αυτό επιτρέπει επίσης στην OpenAI να παραπέμπει σε υπάρχουσες δομές με τις οποίες έχει ήδη επαφή: το Youth AI Safety Institute της Common Sense Media, το οποίο υποστηρίζει το OpenAI Foundation, και τη συνεργασία της με την American Federation of Teachers.

Η εκτίμηση ηλικίας είναι η βάση από την οποία εξαρτάται το υπόλοιπο

Από τις οκτώ αρχές που θέτει η OpenAI, η πρώτη έχει το μεγαλύτερο βάρος. Η εταιρεία υποστηρίζει ότι οι πάροχοι πρέπει να γνωρίζουν πότε ένας χρήστης είναι ανήλικος και να εφαρμόζουν κατάλληλες για την ηλικία προστασίες — χρησιμοποιώντας εκτίμηση ηλικίας που σέβεται την ιδιωτικότητα για να διαχωρίζουν ανηλίκους από ενήλικες, και εφαρμόζοντας προστατευτικά μέτρα ως προεπιλογή όταν η ηλικία δεν μπορεί να προσδιοριστεί.

Η OpenAI είναι ειλικρινής ως προς αυτή την εξάρτηση: «Χωρίς αυτή τη βάση, ακόμη και οι πιο καλοπροαίρετες προστασίες για τους νέους ενδέχεται να αποτύχουν να φτάσουν στα άτομα που σκοπεύουν να προστατεύσουν». Κάθε επόμενη αρχή — γονικοί έλεγχοι, πρωτόκολλα αυτοτραυματισμού, περιορισμοί περιεχομένου — προϋποθέτει ότι το σύστημα μπορεί καταρχάς να διακρίνει ποιος είναι ανήλικος.

Αυτό σημαίνει ότι απαιτείται από τους παρόχους να χρησιμοποιούν μέσα όπως αποτελεσματική εκτίμηση ηλικίας που σέβεται την ιδιωτικότητα, για να διαχωρίζουν ανηλίκους από ενήλικες, και να εφαρμόζουν προστατευτικά μέτρα ως προεπιλογή όταν η ηλικία ενός χρήστη δεν μπορεί να προσδιοριστεί.Montana Labs

Η εταιρεία δηλώνει ότι αυτό διαμορφώνει ήδη το ChatGPT: περιγράφει προηγμένα συστήματα πρόβλεψης ηλικίας που εφαρμόζουν αυστηρότερες προστασίες όταν κάποιος μπορεί να είναι κάτω των 18 ετών, και μια προεπιλογή σε ισχυρότερα μέτρα ασφάλειας όταν η ηλικία είναι αβέβαιη. Η αρχή που θέλει να κατοχυρωθεί είναι, ουσιαστικά, η περιγραφή ενός συστήματος που έχει ήδη κατασκευάσει και θέλει τώρα να εφαρμόσουν και οι ανταγωνιστές της.

Οι έλεγχοι και οι ετήσιες αξιολογήσεις είναι το σημείο όπου η εφαρμογή αποκτά ουσία

Δύο αρχές μετατοπίζουν την πρόταση από μια εθελοντική δέσμευση προς κάτι μετρήσιμο. Η OpenAI ζητά από τους παρόχους να διεξάγουν ετήσιες αξιολογήσεις κινδύνου για την ασφάλεια των νέων και να εφαρμόζουν αναλογικά μέτρα προστασίας, σταθμίζοντας τόσο τις πιθανές βλάβες όσο και το κατά πόσο η ΤΝ παράγει θετικά αποτελέσματα, όπως μάθηση και ανάπτυξη δεξιοτήτων.

Η δεύτερη είναι οι ανεξάρτητοι έλεγχοι, θεμελιωμένοι σε κοινά πρότυπα που επιτρέπουν διαλειτουργικούς ελέγχους σε διαφορετικές δικαιοδοσίες. Η λέξη «διαλειτουργικοί» είναι εκείνη με την πραγματική πρακτική σημασία. Ένας μοναδικός έλεγχος που ικανοποιεί πολλές κυβερνήσεις είναι πολύ πιο οικονομικός για μια εταιρεία που λειτουργεί παγκοσμίως, σε σχέση με ξεχωριστές εθνικές επανεξετάσεις, και είναι ο μηχανισμός μέσα από τον οποίο ένα διεθνές ινστιτούτο θα προσέφερε πραγματικά αξία και όχι απλώς γραφειοκρατία.

Η OpenAI βασίζεται επίσης σε δεδομένα από πραγματικές εφαρμογές για να τεκμηριώσει την τεκμηριωμένη προσέγγισή της, αναφέροντας την εθνική εφαρμογή του ChatGPT στα σχολεία της Εσθονίας, όπου συνεργάζεται με το Stanford και Εσθονούς ερευνητές για τη μελέτη του αντίκτυπου. Το πρόγραμμά της Education for Countries αναφέρει την Εσθονία, την Ελλάδα και τη Σιγκαπούρη ως συνεργάτες σε εφαρμογές που βασίζονται στην έρευνα.

Σε τι δεσμεύεται στην πραγματικότητα η OpenAI με αυτή την ανακοίνωση

Το άμεσο αποτέλεσμα είναι διπλωματικό: η OpenAI θα συμμετάσχει στη Σύνοδο Κορυφής των Ηγετών και θα φέρει το OpenAI Forum στο Παρίσι, όπου η Πρέσβειρα της Γαλλίας για την ΤΝ και τις Ψηφιακές Υποθέσεις Clara Chappaz θα εμφανιστεί μαζί με τον Chief Global Affairs Officer Chris Lehane και ηγετικά στελέχη ασφάλειας νέων από τους iRaise/Everyone.AI.

Η ουσιαστική δέσμευση είναι ότι η OpenAI ζητά να αξιολογείται με βάση τις ίδιες αρχές που προτείνει. Παραπέμπει σε ενισχυμένα μέτρα προστασίας για χρήστες κάτω των 18 ετών, γονικούς ελέγχους με προληπτικές ειδοποιήσεις, και ειδικές αρχές για κάτω των 18 στο Model Spec της, που καλύπτουν τον αυτοτραυματισμό, επικίνδυνες δραστηριότητες, βίαιο περιεχόμενο, εικόνα σώματος και μυστικότητα.

Η συγκεκριμένη συνέπεια είναι ότι η OpenAI επιχειρεί να μετατρέψει τα δικά της υπάρχοντα χαρακτηριστικά προϊόντων — πρόβλεψη ηλικίας, γονικούς ελέγχους, κανόνες του Model Spec — σε βασικό πρότυπο του κλάδου, επιβαλλόμενο μέσω διεθνών προτύπων ελέγχου. Αν αυτό επιτύχει, η τρέχουσα υλοποίηση της εταιρείας γίνεται το σημείο αναφοράς, και το βάρος του να προσαρμοστούν πέφτει στους παρόχους που δεν έχουν ήδη κατασκευάσει τέτοια συστήματα. Αυτός είναι ο πραγματικός μοχλός πίσω από την πρόταση για το ινστιτούτο, και αξίζει να παρακολουθήσουμε αν οι κυβερνήσεις της G7 θα υιοθετήσουν τη γλώσσα περί διαλειτουργικών ελέγχων που θα την έκανε δεσμευτική.