A promessa de encriptação client-side da OpenAI surge como defesa jurídica, não como funcionalidade de produto

O que a ordem judicial realmente abrange, e o que não abrange

A OpenAI afirma que o New York Times obteve uma ordem judicial que a obriga a entregar 20 milhões de conversas do ChatGPT, selecionadas aleatoriamente entre dezembro de 2022 e novembro de 2024. A empresa está a recorrer, mas está a cumprir nesta fase porque tem de seguir a lei.

O âmbito importa para quem está a decidir sobre que camada construir. A OpenAI declara que a ordem não abrange o ChatGPT Enterprise, o ChatGPT Edu, o ChatGPT Business (antigo Team) nem os clientes de API. Abrange as conversas do ChatGPT de consumidor dentro dessa janela de dois anos. As conversas fora dessa janela não são afetadas.

Essa linha — chat de consumidor versus níveis de API e empresariais — é, na prática, uma fronteira de governação de dados traçada por litígio e não por uma especificação de produto. Confirma algo que as equipas já deveriam assumir: o nível pelo qual encaminham os utilizadores determina quem pode ser obrigado a examinar os seus dados mais tarde.

A desidentificação é a mitigação disponível hoje

A proteção concreta que a OpenAI descreve para os chats afetados não é encriptação. É um processo de desidentificação que remove informação pessoalmente identificável e outro conteúdo sensível, como palavras-passe, antes de os dados poderem ser vistos. Os dados ficam sob retenção legal num sistema seguro separado, acessível apenas a uma pequena equipa jurídica e de segurança auditada.

A OpenAI afirma também ter proposto alternativas mais restritas ao Times — pesquisas direcionadas a chats que contenham texto de artigos do Times, além de uma classificação de alto nível sobre como o ChatGPT foi utilizado na amostra — e que o Times as rejeitou.

Para um engenheiro de frontend, a conclusão prática é que a redação é um processo do lado do servidor, aplicado a posteriori a registos brutos de conversas. Tudo o que um utilizador escreveu — credenciais, dados pessoais, segredos colados — foi armazenado numa forma que exigiu limpeza. Essa limpeza é uma correção, não uma arquitetura que tenha impedido a retenção de dados sensíveis desde o início.

A encriptação client-side transferiria a confiança para o dispositivo

O nosso roteiro a longo prazo inclui funcionalidades de segurança avançadas concebidas para manter os seus dados privados, incluindo encriptação client-side para as suas mensagens com o ChatGPT. Acreditamos que estas funcionalidades ajudarão a manter as suas conversas privadas verdadeiramente privadas e inacessíveis a qualquer outra pessoa, incluindo a própria OpenAI.Montana Labs

Esta é a frase com verdadeiro peso arquitetónico. Encriptação client-side significa que o texto simples existe apenas no dispositivo do utilizador; a OpenAI passaria a guardar apenas texto cifrado que não conseguiria ler. Uma futura ordem de discovery como esta atingiria dados que a OpenAI genuinamente não conseguiria entregar de forma utilizável.

Isto também reformula o produto. A OpenAI associa a promessa de encriptação a um plano para sistemas totalmente automatizados detetarem problemas de segurança, escalando apenas os casos graves — ameaças à vida, planos para prejudicar terceiros, ameaças de cibersegurança — para uma pequena equipa humana previamente validada. Esta é a tensão clássica dos sistemas ponto-a-ponto: se a OpenAI não conseguir ler as mensagens, a aplicação de regras de segurança tem de ocorrer no cliente ou através de sinais estritamente delimitados, e não por inspeção do conteúdo no servidor.

Nada disto existe ainda. A OpenAI descreve estas funcionalidades como estando em desenvolvimento ativo, com detalhes prometidos para breve. O anúncio é um compromisso assumido sob pressão jurídica, e deve ser lido como um sentido de evolução, e não como uma capacidade já disponível.

Construir sobre o ChatGPT significa desenhar em torno de dados cuja retenção não controla

A lição concreta deste processo é que o histórico de conversas do ChatGPT de consumidor pode ser obtido por terceiros através de litígios nos quais os utilizadores da OpenAI não tiveram qualquer intervenção. A OpenAI enquadra a exigência do Times como um excesso e está a contestá-la, mas os dados já foram amostrados, retidos e destinados a análise por advogados externos e pelos seus consultores técnicos.

Até que a encriptação client-side seja de facto lançada, a postura defensável para equipas que encaminham conteúdo de utilizadores através do ChatGPT é tratar o nível de consumidor como um sistema onde o texto simples persiste e pode ser exposto. Isso reforça o argumento a favor dos níveis empresarial e de API que a OpenAI excluiu desta ordem, a favor de minimizar o que se pede aos utilizadores para colarem, e contra assumir que a desidentificação apanha tudo o que um tribunal possa vir a ver.

Quando a encriptação chegar, o frontend herda a responsabilidade: gestão de chaves, verificações de segurança no dispositivo e recuperação passam todos a ser questões do cliente. A garantia de privacidade que a OpenAI está a prometer só se mantém válida se a camada com que o utilizador interage for construída para manter o texto simples ali.