OpenAI adiciona contexto de segurança entre conversas ao ChatGPT com "resumos de segurança"

O que a atualização altera de facto no fluxo da conversa

A afirmação central da OpenAI é restrita e específica: o ChatGPT passa agora a ponderar o contexto acumulado de uma conversa, e não apenas a última mensagem, ao decidir como responder em cenários críticos — suicídio, autolesão e dano a terceiros. Um pedido que, isolado, parece comum pode ganhar um significado diferente após sinais anteriores de sofrimento, e o modelo está treinado para reforçar a cautela quando esses sinais se acumulam.

As ações de resposta indicadas são concretas: desescalar, recusar detalhes prejudiciais ou redirecionar para alternativas mais seguras. Isto amplia a abordagem de "conclusão segura" já existente na OpenAI, que recusa as partes inseguras de um pedido enquanto responde ao que puder de forma segura, em vez de recusar por completo toda a mensagem.

Os "resumos de segurança" são uma camada de persistência, não memória

O aspeto mais relevante em termos de engenharia é a forma como a OpenAI trata riscos que atravessam várias conversas distintas. Em vez de ler o histórico completo das conversas, um modelo treinado para tarefas de raciocínio de segurança escreve "resumos de segurança" — notas breves e factuais sobre contexto de segurança relevante anterior. Estas notas são geradas por um modelo dedicado, mantidas apenas por um período limitado, e acionadas apenas quando existe uma preocupação de segurança séria em causa.

Foram concebidas para captar contexto factual de segurança, não para servir de personalização geral ou memória de longo prazo.Montana Labs

Essa fronteira é a decisão de design que merece destaque. A OpenAI está a construir um percurso de persistência com objetivo específico, que funciona em paralelo com a funcionalidade de memória do ChatGPT, com o seu próprio modelo de geração, janela de retenção e condições de ativação. Responde a um problema real de produto — sinais de alerta distribuídos por várias sessões parecem inofensivos quando vistos conversa a conversa — sem integrar o contexto de segurança na memória geral que molda as respostas do dia a dia.

Os números são sólidos precisamente onde a funcionalidade incide

A OpenAI reporta avaliações internas concebidas para simular conversas de alto risco em que o perigo se torna claro com o tempo. Em testes prolongados numa única conversa, o desempenho de respostas seguras subiu 50% em casos de suicídio e autolesão e 16% em casos de dano a terceiros. No GPT-5.5 Instant, o modelo predefinido atual, os ganhos foram de 52% para dano a terceiros e 39% para suicídio e autolesão. Em mais de 4000 avaliações dos próprios resumos, obtiveram uma pontuação de 4,93 em 5 na relevância para a segurança e 4,34 em 5 na precisão factual.

Há duas reservas a fazer nesta apresentação. Trata-se de avaliações internas face a cenários concebidos pela própria OpenAI, e as percentagens correspondem a melhorias relativas, não a taxas absolutas de resposta segura — pelo que um ganho elevado não revela com que frequência o modelo já era seguro antes. A pontuação de precisão factual de 4,34 fica também abaixo da pontuação de relevância, o que significa que os resumos são mais consistentemente pertinentes do que consistentemente exatos, algo que importa quando uma nota se destina a alterar a forma como o modelo interpreta uma mensagem posterior.

A OpenAI testou o custo que isto acrescenta às conversas do dia a dia

Um risco recorrente com camadas de segurança é o de a cautela se infiltrar no uso normal — tornando o tom mais rígido, recusando em excesso ou introduzindo avisos onde não são necessários. A OpenAI abordou isto diretamente, testando se a adição de contexto de segurança degradava as conversas do quotidiano, e reporta que as respostas se mantiveram globalmente comparáveis, sem preferência significativa dos utilizadores entre respostas produzidas com ou sem resumos de segurança.

Combinada com o contributo de psiquiatras e psicólogos da Global Physicians Network da OpenAI — que ajudaram a definir quando os resumos são criados e durante quanto tempo o contexto deve ser considerado —, a atualização surge como uma tentativa de aumentar a sensibilidade em casos raros sem impor um custo no uso quotidiano. Se isso se confirma fora dos testes internos é a questão que permanece em aberto, mas a avaliação foi, pelo menos, delineada para a colocar.

O precedente: um repositório de contexto delimitado e temporário para sinais de alto risco

A ideia com valor duradouro aqui é arquitetural. A OpenAI construiu um mecanismo de contexto que se define pelas suas restrições — um modelo de raciocínio separado, uma janela de retenção limitada e ativação apenas em casos de preocupação de segurança séria — em vez de se definir pela maximização da capacidade de retenção. Isto é o inverso da tendência geral rumo a uma memória mais ampla e duradoura, e existe precisamente porque uma persistência sem restrições seria a ferramenta errada para este problema.

A OpenAI sinaliza que poderá estender o mesmo método à segurança biológica e cibernética, com salvaguardas próprias. Se o fizer, o modelo reutilizável não será "dar mais memória ao assistente" — será um canal de contexto rigorosamente delimitado e concebido com um propósito específico, que só surge quando uma classe de risco definida é acionada. Para as equipas que constroem produtos conversacionais, a conclusão a retirar é que o estado relevante para a segurança pode constituir uma camada distinta e temporária, mantida separada do estado de personalização que molda as interações do dia a dia.