OpenAI combina três camadas de proveniência: conformidade C2PA, marcas de água SynthID e um verificador público

O que a OpenAI lançou de facto nesta atualização

A OpenAI reuniu três medidas concretas num único anúncio. Primeiro, tornou-se um C2PA Conforming Generator Product, o que a empresa descreve como dar às plataformas uma forma fiável de ler, preservar e transmitir os metadados de proveniência que associa ao conteúdo gerado. Segundo, adicionou a marcação SynthID da Google DeepMind às imagens geradas através do ChatGPT, Codex ou da API da OpenAI. Terceiro, abriu uma pré-visualização de uma ferramenta de verificação pública que analisa uma imagem carregada em busca de Content Credentials e de SynthID.

Nenhuma destas medidas é uma novidade absoluta. A OpenAI associa Content Credentials a imagens desde 2024, começando com o DALL·E 3 e mais tarde com o ImageGen e o Sora, e integra o Comité Diretor do C2PA. O que é novo é sobrepor uma marca de água aos metadados e dar ao público uma forma de questionar ambos.

A sobreposição existe porque os metadados não sobrevivem

A parte mais honesta do anúncio é o seu diagnóstico de porque é que um único sinal não é suficiente. A OpenAI afirma claramente que os metadados C2PA podem ser removidos, perdidos durante uploads e downloads, ou danificados por alterações de formato, redimensionamento e capturas de ecrã. É um reconhecimento direto de que a abordagem baseada em assinaturas criptográficas em que investe desde 2024 falha perante a manipulação mais comum a que o conteúdo é sujeito online.

O C2PA ajuda o conteúdo a transportar contexto detalhado; o SynthID ajuda a preservar um sinal quando os metadados não sobrevivem. A marcação de água pode ser mais duradoura face a transformações como capturas de ecrã, enquanto os metadados podem fornecer mais informação do que uma marca de água por si só.Montana Labs

Trata-se de uma divisão de tarefas, não de redundância. Os metadados transportam contexto mais rico — a origem do conteúdo, como foi criado ou editado, quem o assinou —, mas são frágeis. A marca de água transporta menos informação, mas persiste através de uma captura de ecrã. A aposta é que a união dos dois cubra mais casos de falha do mundo real do que qualquer um deles isoladamente.

Uma ferramenta de verificação que se recusa a adivinhar

A ferramenta de verificação em pré-lançamento é deliberadamente limitada. No lançamento, só responde a perguntas sobre conteúdo gerado pela OpenAI, verificando se uma imagem carregada foi criada através do ChatGPT, da API da OpenAI ou do Codex, procurando os seus sinais de proveniência. Baseia-se no classificador de deteção de imagens que a OpenAI apresentou em investigação em 2024.

A escolha de design mais importante é aquilo que a ferramenta se recusa a afirmar. A OpenAI declara que, se não for detetado nenhum metadado ou marca de água, a ferramenta não conclui que a imagem não foi criada com as suas ferramentas — porque os sinais podem ser removidos. Essa recusa em inferir ausência a partir de um sinal em falta é a postura correta para um detetor, e importa mais do que a própria deteção. Uma ferramenta que declarasse com confiança 'não é AI (keep the English acronym)' sempre que nada encontrasse seria ativamente enganadora, uma vez que remover uma marca de água é exatamente o que um agente malicioso faria.

A lacuna de interoperabilidade que esta atualização deixa em aberto

A limitação específica a acompanhar é o âmbito. A ferramenta de verificação responde a 'isto foi criado pela OpenAI?' — não a 'isto foi criado por AI (keep the English acronym)?'. A integração do SynthID que a OpenAI está a adotar é uma tecnologia da Google DeepMind, pelo que uma base de marcação de água partilhada entre dois grandes geradores é, pelo menos, concebível, e a OpenAI afirma que pretende apoiar a verificação entre setores nos próximos meses e, eventualmente, mais tipos de conteúdo.

Até isso acontecer, a proveniência permanece limitada a cada fornecedor: cada gerador pode garantir apenas o seu próprio conteúdo, e um verificador que só reconhece os sinais de uma empresa dá aos utilizadores uma imagem parcial. O valor da conformidade C2PA — a proveniência sobreviver além da primeira plataforma — só se concretiza plenamente quando as plataformas e outros geradores lerem e preservarem de facto estes sinais. A OpenAI construiu as camadas do seu lado; o ecossistema interoperável que descreve depende de terceiros que não controla adotarem as mesmas normas e respeitarem os metadados em vez de os removerem no momento do carregamento.