A OpenAI propõe um instituto internacional de segurança de IA para jovens antes da cúpula do G7 em Évian

O pedido é institucional, não apenas aspiracional

A OpenAI está usando a Cúpula de Líderes do G7 em Évian, na França, para pedir a criação de um órgão permanente dedicado à segurança de jovens em IA. O enquadramento é deliberado: uma cúpula gera um momento, mas a empresa argumenta que a segurança de jovens precisa de continuidade que vá além de um único encontro.

Vale notar que a OpenAI não insiste em uma organização totalmente nova. Ela oferece alternativas — um novo instituto internacional, ou dar a um instituto nacional de IA já existente ou recém-criado um mandato global para compartilhar pesquisas, evidências e diretrizes. A empresa deixa claro que o que importa é a função, não o formato.

Essa flexibilidade facilita a adesão dos governos. Em vez de negociar uma nova organização de tratado do zero, um governo do G7 poderia simplesmente estender o mandato de uma instituição que já financia. Isso também permite que a OpenAI aponte para estruturas que já toca: o Youth AI Safety Institute da Common Sense Media, apoiado pela OpenAI Foundation, e sua colaboração com a American Federation of Teachers.

A estimativa de idade é a base de que tudo o resto depende

Dos oito princípios estabelecidos pela OpenAI, o primeiro é o que carrega mais peso. A empresa argumenta que os provedores devem saber quando um usuário é menor de idade e aplicar proteções adequadas à idade — usando estimativa de idade que preserve a privacidade para distinguir menores de adultos, e adotando salvaguardas protetivas por padrão quando a idade não pode ser determinada.

A OpenAI é direta sobre essa dependência: 'Sem essa base, mesmo as proteções para jovens mais bem-intencionadas podem não alcançar os jovens que deveriam proteger.' Todo princípio seguinte — controles parentais, protocolos de autolesão, restrições de conteúdo — pressupõe que o sistema consiga, antes de tudo, identificar quem é menor de idade.

Isso significa exigir que os provedores usem meios como estimativa de idade eficaz e que preserve a privacidade para distinguir menores de adultos, e que adotem salvaguardas protetivas por padrão quando a idade de um usuário não puder ser determinada.Montana Labs

A empresa afirma que isso já orienta o ChatGPT: ela descreve sistemas avançados de previsão de idade que aplicam proteções mais fortes quando alguém pode ter menos de 18 anos, além de um padrão de salvaguardas mais rígidas quando a idade é incerta. O princípio que ela quer codificar é, na prática, a descrição de um sistema que já construiu — e agora quer que os concorrentes também sigam.

Auditorias e avaliações anuais são o que dá força real à aplicação

Dois princípios movem a proposta de um compromisso voluntário para algo mensurável. A OpenAI pede que os provedores realizem avaliações anuais de risco de segurança para jovens e implementem salvaguardas proporcionais, ponderando tanto os danos quanto se a IA está gerando resultados positivos, como aprendizado e desenvolvimento de habilidades.

O segundo é auditorias independentes, sustentadas por padrões comuns que permitam auditorias interoperáveis entre jurisdições. Essa palavra — interoperáveis — é a que tem peso prático real. Uma única auditoria que satisfaça vários governos é muito mais barata para uma empresa que opera globalmente do que revisões nacionais separadas, e é o mecanismo pelo qual um instituto internacional agregaria valor de verdade, em vez de apenas gerar burocracia.

A OpenAI também recorre a dados de implementação para justificar essa abordagem baseada em evidências, citando o lançamento nacional do ChatGPT nas escolas da Estônia, onde trabalha com pesquisadores de Stanford e da Estônia para estudar o impacto. Seu programa Education for Countries lista Estônia, Grécia e Singapura como parceiros em implementações guiadas por pesquisa.

No que esse anúncio realmente compromete a OpenAI

O resultado imediato é diplomático: a OpenAI vai participar da Cúpula de Líderes e levar seu OpenAI Forum a Paris, onde a embaixadora francesa para IA e Assuntos Digitais, Clara Chappaz, vai aparecer ao lado do Chief Global Affairs Officer Chris Lehane e de líderes de segurança de jovens da iRaise/Everyone.AI.

O compromisso concreto é que a OpenAI está se propondo a ser avaliada pelos mesmos princípios que está propondo. Ela cita proteções reforçadas para usuários menores de 18 anos, controles parentais com notificações proativas, e princípios específicos para menores de 18 anos em seu Model Spec, cobrindo autolesão, atividades perigosas, conteúdo gráfico, imagem corporal e segredos.

A implicação específica é que a OpenAI está tentando transformar seus próprios recursos de produto já existentes — previsão de idade, controles parentais, regras do Model Spec — em um padrão mínimo da indústria, reforçado por padrões internacionais de auditoria. Se isso funcionar, a implementação atual da empresa se torna o piso de referência, e o ônus de se atualizar cai sobre os provedores que ainda não construíram esses sistemas. Essa é a verdadeira aposta por trás da proposta do instituto, e vale acompanhar se os governos do G7 vão adotar a linguagem de auditoria interoperável que tornaria isso vinculante.