OpenAI propõe um instituto internacional de segurança AI para jovens antes da Cimeira do G7 em Évian

O pedido é institucional, não apenas aspiracional

A OpenAI está a aproveitar a Cimeira de Líderes do G7 em Évian, França, para apelar à criação de um organismo permanente dedicado à segurança de jovens face à AI. O enquadramento é deliberado: uma cimeira gera um momento, mas a empresa defende que a segurança dos jovens exige uma continuidade que ultrapasse um único encontro.

É de notar que a OpenAI não insiste numa organização totalmente nova. Apresenta alternativas — um novo instituto internacional, ou atribuir a um instituto nacional de AI já existente, ou a criar, um mandato global para partilhar investigação, evidências e orientações. A empresa afirma explicitamente que o que importa é a função, não a forma.

Essa flexibilidade facilita a adesão dos governos. Em vez de negociar do zero uma nova organização com base num tratado, um governo do G7 poderia simplesmente alargar as competências de uma instituição que já financia. Isto também permite à OpenAI apontar para estruturas já existentes com as quais colabora: o Youth AI Safety Institute da Common Sense Media, apoiado pela OpenAI Foundation, e a sua colaboração com a American Federation of Teachers.

A estimativa de idade é a base de que tudo o resto depende

Dos oito princípios definidos pela OpenAI, o primeiro é o que exige mais esforço. A empresa defende que os fornecedores devem saber quando um utilizador é menor e aplicar proteções adequadas à idade — recorrendo a uma estimativa de idade que preserve a privacidade para distinguir menores de adultos, optando por salvaguardas protetoras sempre que a idade não possa ser determinada.

A OpenAI é direta quanto a esta dependência: 'Sem esta base, mesmo as proteções para jovens mais bem-intencionadas podem não chegar aos jovens que pretendem proteger.' Todos os princípios que se seguem — controlos parentais, protocolos de autoagressão, restrições de conteúdo — pressupõem que o sistema consegue, antes de mais, identificar quem é menor.

Isto implica exigir aos fornecedores o uso de meios como a estimativa de idade eficaz e respeitadora da privacidade, para distinguir menores de adultos, optando por salvaguardas protetoras sempre que a idade de um utilizador não possa ser determinada.Montana Labs

A empresa afirma que isto já orienta o ChatGPT: descreve sistemas avançados de previsão de idade que aplicam proteções mais fortes quando alguém pode ter menos de 18 anos, e uma predefinição para salvaguardas mais robustas quando a idade é incerta. O princípio que pretende ver codificado é, na prática, a descrição de um sistema que já construiu e que agora quer ver exigido também aos concorrentes.

As auditorias e avaliações anuais são onde a aplicação ganha força

Dois princípios fazem a proposta avançar de um compromisso voluntário para algo mensurável. A OpenAI pede que os fornecedores realizem avaliações anuais de risco de segurança para jovens e implementem salvaguardas proporcionais, ponderando tanto os potenciais danos como se a AI está a gerar resultados positivos, como aprendizagem e desenvolvimento de competências.

O segundo é a realização de auditorias independentes, sustentadas por normas comuns que permitam auditorias interoperáveis entre jurisdições. Essa palavra — interoperáveis — é a que tem relevância prática. Uma única auditoria que satisfaça vários governos é muito mais económica para uma empresa com operações globais do que revisões nacionais separadas, e é o mecanismo através do qual um instituto internacional acrescentaria valor real, em vez de burocracia.

A OpenAI recorre também a dados de implementação para justificar esta abordagem baseada em evidências, citando o programa nacional de implementação do ChatGPT nas escolas da Estónia, onde colabora com investigadores de Stanford e da Estónia para estudar o impacto. O seu programa Education for Countries lista a Estónia, a Grécia e Singapura como parceiros em implementações orientadas por investigação.

Aquilo a que este anúncio efetivamente compromete a OpenAI

O resultado imediato é diplomático: a OpenAI vai participar na Cimeira de Líderes e levar o seu OpenAI Forum a Paris, onde a Embaixadora francesa para os Assuntos Digitais e AI, Clara Chappaz, participará junto do Diretor de Assuntos Globais, Chris Lehane, e de líderes de segurança de jovens da iRaise/Everyone.AI.

O compromisso substantivo é que a OpenAI está a pedir para ser avaliada segundo os mesmos princípios que propõe. A empresa aponta para salvaguardas reforçadas para utilizadores com menos de 18 anos, controlos parentais com notificações proativas, e princípios dedicados a menores de 18 anos no seu Model Spec, abrangendo autoagressão, atividades perigosas, conteúdo gráfico, imagem corporal e sigilo.

A implicação específica é que a OpenAI está a tentar transformar as suas próprias funcionalidades de produto já existentes — previsão de idade, controlos parentais, regras do Model Spec — numa referência mínima para o setor, imposta através de normas internacionais de auditoria. Se isso for bem-sucedido, a implementação atual da empresa passa a ser o patamar de referência, e o ónus de recuperar o atraso cai sobre os fornecedores que ainda não construíram estes sistemas. É essa a verdadeira vantagem por detrás da proposta do instituto, e vale a pena observar se os governos do G7 vão adotar a linguagem de auditoria interoperável que a tornaria vinculativa.