OpenAI propone un istituto internazionale per la sicurezza dei giovani nell'IA in vista del G7 di Évian

La richiesta è istituzionale, non solo aspirazionale

OpenAI sta usando il Summit dei Leader del G7 a Évian, in Francia, per chiedere la creazione di un organismo permanente dedicato alla sicurezza dei giovani nell'IA. L'impostazione è deliberata: un summit crea un momento, ma secondo l'azienda la sicurezza dei giovani richiede una continuità che vada oltre un singolo incontro.

È significativo che OpenAI non insista su un'organizzazione completamente nuova. Propone alternative — un nuovo istituto internazionale, oppure affidare a un istituto nazionale per l'IA già esistente o di nuova costituzione un mandato globale per condividere ricerca, evidenze e linee guida. L'azienda dichiara esplicitamente che ciò che conta è la funzione, non la forma.

Questa flessibilità abbassa la soglia per un sì da parte dei governi. Invece di negoziare da zero un nuovo organismo trattato, un governo del G7 potrebbe semplicemente estendere il mandato di un'istituzione che già finanzia. Questo permette inoltre a OpenAI di far riferimento a strutture già esistenti con cui è già in contatto: il Youth AI Safety Institute di Common Sense Media, sostenuto dalla OpenAI Foundation, e la sua collaborazione con l'American Federation of Teachers.

La stima dell'età è la base su cui si fonda tutto il resto

Tra gli otto principi delineati da OpenAI, il primo è quello che pesa di più. L'azienda sostiene che i fornitori dovrebbero sapere quando un utente è minorenne e applicare protezioni adeguate all'età — usando una stima dell'età che preservi la privacy per distinguere i minori dagli adulti, e adottando come impostazione predefinita misure di protezione quando l'età non può essere determinata.

OpenAI è schietta riguardo a questa dipendenza: 'Senza questa base, anche le protezioni per i giovani meglio intenzionate potrebbero non riuscire a raggiungere i ragazzi che dovrebbero tutelare.' Ogni principio successivo — controlli parentali, protocolli sull'autolesionismo, restrizioni sui contenuti — presuppone che il sistema sia in grado, prima di tutto, di capire chi è minorenne.

Questo significa richiedere ai fornitori di utilizzare strumenti come una stima dell'età efficace e rispettosa della privacy per distinguere i minori dagli adulti, e di adottare come impostazione predefinita misure di protezione quando l'età di un utente non può essere determinata.Montana Labs

L'azienda afferma che questo già modella il funzionamento di ChatGPT: descrive sistemi avanzati di previsione dell'età che applicano protezioni più rigorose quando qualcuno potrebbe avere meno di 18 anni, e un'impostazione predefinita su misure di sicurezza più forti quando l'età è incerta. Il principio che vuole codificare è, di fatto, la descrizione di un sistema che ha già costruito e a cui ora vuole che anche i concorrenti si attengano.

Audit e valutazioni annuali sono il punto in cui l'applicazione diventa concreta

Due principi spostano la proposta da un impegno volontario verso qualcosa di misurabile. OpenAI chiede che i fornitori completino valutazioni annuali del rischio per la sicurezza dei giovani e implementino misure proporzionate, valutando sia i danni potenziali sia se l'IA stia producendo effetti positivi come l'apprendimento e lo sviluppo di competenze.

Il secondo è quello degli audit indipendenti, sostenuti da standard comuni che consentano audit interoperabili tra le diverse giurisdizioni. Quella parola — interoperabili — è quella davvero rilevante sul piano pratico. Un unico audit che soddisfi più governi è molto più economico per un'azienda che opera a livello globale rispetto a revisioni nazionali separate, ed è il meccanismo attraverso cui un istituto internazionale potrebbe realmente creare valore invece che burocrazia.

OpenAI si appoggia anche ai dati di implementazione per giustificare il proprio approccio basato sull'evidenza, citando l'adozione nazionale di ChatGPT nelle scuole in Estonia, dove collabora con Stanford e ricercatori estoni per studiarne l'impatto. Il suo programma Education for Countries elenca Estonia, Grecia e Singapore come partner in implementazioni guidate dalla ricerca.

A cosa si impegna davvero OpenAI con questo annuncio

Il risultato immediato è di natura diplomatica: OpenAI partecipa al Summit dei Leader e porta il suo OpenAI Forum a Parigi, dove l'Ambasciatrice francese per l'IA e gli Affari Digitali Clara Chappaz interverrà insieme al Chief Global Affairs Officer Chris Lehane e ai responsabili della sicurezza dei giovani di iRaise/Everyone.AI.

L'impegno concreto è che OpenAI chiede di essere valutata in base agli stessi principi che propone. L'azienda cita protezioni rafforzate per gli utenti under 18, controlli parentali con notifiche proattive, e principi dedicati agli under 18 nel suo Model Spec, che riguardano autolesionismo, attività pericolose, contenuti grafici, immagine corporea e segretezza.

L'implicazione specifica è che OpenAI sta cercando di trasformare le proprie funzionalità di prodotto già esistenti — previsione dell'età, controlli parentali, regole del Model Spec — in uno standard di settore imposto tramite standard di audit internazionali. Se questo dovesse riuscire, l'implementazione attuale dell'azienda diventerebbe il livello minimo di riferimento, e l'onere di recuperare il terreno perso ricadrebbe sui fornitori che non hanno ancora costruito questi sistemi. Questa è la vera leva dietro la proposta dell'istituto, e vale la pena osservare se i governi del G7 adotteranno il linguaggio sugli audit interoperabili che la renderebbe vincolante.