OpenAI publica princípios de segurança nacional a par das suas parcerias em cibersegurança e biossegurança

O que a OpenAI realmente anunciou a 8 de julho

O anúncio tem duas partes: um conjunto publicado de Princípios de Segurança Nacional e um balanço de parcerias já em funcionamento. A OpenAI apresenta os princípios como transparência sobre a forma como aborda as parcerias governamentais e os usos da sua tecnologia em segurança nacional, afirmando que se aplicam ao trabalho atual e futuro — incluindo o acordo já existente com o Departamento de Guerra.

O que torna isto mais do que uma declaração de valores é o facto de a OpenAI nomear programas e parceiros específicos. Não se trata de descrever uma intenção futura de trabalhar com governos; trata-se de documentar implementações que, segundo a própria empresa, ocorreram no último mês.

A camada de acesso: Daybreak, Trusted Access e GPT-Rosalind

A estrutura concreta aqui é um conjunto de programas de acesso condicionado. No âmbito do programa de defesa cibernética Daybreak, a OpenAI afirma ter estabelecido parcerias de Trusted Access for Cyber com a Austrália, o Canadá, o Japão, a República da Coreia, a França, a Alemanha, a Polónia, os Países Baixos e instituições da UE como a ENISA, além de uma parceria separada com o governo do Reino Unido em cibersegurança, testes e avaliação.

A biossegurança segue o mesmo padrão. A OpenAI refere um acesso de confiança ampliado ao seu modelo GPT-Rosalind para determinados parceiros do governo dos EUA e aliados que apoiam missões de saúde pública e biodefesa. A palavra recorrente é 'trusted access' (acesso de confiança) — uma atribuição por níveis, não uma disponibilização geral. Para quem constrói sobre modelos de fronteira, esse é o detalhe operativo: o uso governamental está a ser mediado através de acesso nomeado e restrito, e não de uma API aberta.

A justificação apresentada pela OpenAI é a vantagem defensiva — a ideia de que, em defesa cibernética e segurança biológica, a AI (mantém-se o acrónimo em inglês) pode dar uma vantagem significativa aos defensores. A lista de parceiros parece uma tentativa de tornar essa vantagem específica das democracias aliadas, em vez de uma capacidade genérica.

Três restrições formuladas como condições contratuais

A OpenAI reafirma três limites que já tinha articulado no acordo com o Departamento de Guerra: nenhum uso da sua tecnologia para vigilância doméstica em massa, nenhum uso para dirigir sistemas de armas autónomos e nenhum uso para decisões automatizadas de alto risco. A empresa afirma que estes limites são coerentes com os princípios publicados hoje.

Estas restrições estão escritas como limitações de uso nos contratos, não como garantias ao nível do modelo. Essa distinção é importante na prática — o mecanismo de aplicação é o acordo e a disposição da OpenAI para o cumprir, não um controlo técnico que o cliente possa inspecionar. A empresa está a pedir para ser avaliada pela transparência sobre aquilo para que a sua tecnologia pode e não pode ser usada.

Onde a OpenAI traça o limite da sua própria autoridade

A publicação é explícita ao afirmar que a OpenAI não quer ser a decisora final. Descreve o envolvimento do especialista em segurança nacional David Kris para facilitar o processo e fornecer um julgamento independente, a realização de sessões internas de auscultação e o recurso a equipas que vão da investigação e segurança à política e parcerias.

Muitas das questões mais importantes sobre a AI (mantém-se o acrónimo em inglês) no governo, especialmente em segurança nacional, deveriam ser resolvidas através do processo democrático. O papel de empresas como a nossa é ajudar a informar essas decisões, não tomá-las sozinhas.Montana Labs

Com base nisso, a OpenAI afirma apoiar legislação que estabeleça salvaguardas para os usos militares de maior risco — as mesmas três áreas que os seus contratos já restringem: vigilância doméstica, armas autónomas e outros usos de alto risco.

A implicação: os termos de uso de uma empresa estão a substituir uma política que ainda não existe

O fio condutor deste anúncio é que a OpenAI está a implementar modelos de fronteira em missões de defesa cibernética e biodefesa em cerca de uma dezena de governos, enquanto as salvaguardas legislativas que afirma desejar continuam hipotéticas. Nesse intervalo, as regras em vigor são os próprios princípios da OpenAI e os seus três limites contratuais.

Para as equipas de aplicação prática, a conclusão prática é que o acesso à segurança nacional a estes modelos está a ser regulado ao nível do fornecedor — através de níveis de acesso de confiança e restrições contratuais — em vez de através da lei ou de um mecanismo técnico de aplicação. A OpenAI admite abertamente que preferiria que fosse o processo democrático a definir esses limites; até que isso aconteça, os princípios publicados pela empresa são o documento vinculativo, e a sua força depende apenas da divulgação e da aplicação que os sustentam.