As "safe-completions" da OpenAI mudam a forma do texto que a sua interface tem de renderizar

O que a OpenAI mudou, na prática

A OpenAI descreve as safe-completions, introduzidas no GPT-5, como uma passagem de um treino baseado em recusa para o que chama de treino de segurança centrado no output. Em vez de o modelo ler um prompt e decidir entre cumprir totalmente ou recusar totalmente, é treinado para produzir a resposta mais útil possível dentro dos limites de segurança.

O mecanismo baseia-se em dois parâmetros de pós-treino. Uma restrição de segurança penaliza respostas que violem a política, com penalizações mais fortes para infrações mais graves. Uma recompensa de maximização da utilidade avalia depois as respostas seguras, tendo em conta o objetivo declarado pelo utilizador ou, quando uma resposta completa não é segura, a qualidade de uma recusa informativa acompanhada de alternativas úteis e seguras.

A OpenAI enquadra isto em torno de prompts de duplo uso — perguntas com intenção pouco clara, comuns em áreas como a biologia e a cibersegurança. O exemplo que utilizam é o pedido da energia mínima para acender um espetáculo de fogo de artifício, que pode servir tanto um espetáculo do 4 de julho como um projeto escolar ou o fabrico de explosivos.

O exemplo do fogo de artifício é, na prática, uma especificação da estrutura da resposta

O contraste que a OpenAI publica entre o o3 e o GPT-5 é a parte realmente útil para quem trabalha em interfaces. Ao ser questionado sobre a corrente do e-match, o tipo de bateria, o comprimento dos fios e a resistência do circuito de disparo, o o3, treinado por recusa, avaliou o pedido como inofensivo e devolveu uma resposta técnica completa — cálculos de resistência, uma tabela de componentes, recomendações específicas de baterias.

A resposta de safe-completion do GPT-5 tem uma estrutura completamente diferente. Começa com uma recusa delimitada, indica exatamente o que não vai fornecer, explica o motivo e depois avança para o que pode oferecer: referências às normas da NFPA e da ATF, a sugestão de pedir as fichas técnicas ao fabricante, e a proposta de elaborar uma checklist de fornecedores ou um modelo simbólico de circuito, sem valores numéricos.

Isto já não é uma resposta única nem uma simples frase de recusa. É um composto: um segmento de recusa, um segmento de justificação, um redireccionamento para fontes credíveis e uma proposta de ajuda alternativa. A resposta tem partes internas, e essas partes têm intenções diferentes.

Porque é que isto importa a nível da interface

Os frontends construídos sobre modelos treinados por recusa apoiavam-se muitas vezes em sinais simples. A frase canónica no estilo o3 — "Lamento, não posso ajudar com isso", citada na fonte — era fácil de identificar por padrão, fácil de ocultar, fácil de substituir por um estado vazio personalizado. As safe-completions dissolvem essa fronteira nítida.

Com o GPT-5, uma resposta pode recusar o pedido principal e ainda assim conter conteúdo genuinamente útil e utilizável na mesma mensagem. Tratar qualquer recusa como um beco sem saída significaria descartar precisamente as alternativas seguras que o modelo foi treinado para produzir. Apresentar tudo como um erro esconderia ajuda que o utilizador poderia efetivamente usar.

A OpenAI reporta também um efeito de gravidade: quando os modelos com safe-completion cometem um erro, os seus outputs inseguros têm uma gravidade inferior à dos modelos treinados por recusa, porque abandonar o binário cumprir/recusar torna-os mais conservadores mesmo quando decidem cumprir. Na prática, isto significa que as respostas parciais passam a ser o caso normal, e não a excepção — a interface deve esperar gradações, e não apenas um sinal verde ou vermelho.

A implicação: desenhar para respostas graduadas, e não para o modelo cumprir-ou-recusar

A conclusão honesta a retirar deste lançamento é específica e concreta. As respostas do GPT-5 a pedidos sensíveis mas legítimos vão chegar regularmente como mensagens com várias partes, que combinam aquilo que o modelo não vai fazer com aquilo que está disposto a fazer. As interfaces que assumem um resultado binário — resposta completa ou bloqueio total — estão a modelar um comportamento que a OpenAI eliminou deliberadamente através do treino.

Para as equipas que lançam produtos sobre o GPT-5, isto aponta para tratar estas respostas como ajuda estruturada de pleno direito: destacar as alternativas e as referências a fontes em vez de as reduzir a um estado genérico de recusa, e evitar deteções frágeis baseadas numa frase de recusa fixa que a própria comparação da OpenAI mostra já não ser produzida pelo modelo.