Jul, 134 min de leitura
Frontend
News · OpenAI adiciona Trusted Contact, um fluxo opcional de notificação de crise, ao ChatGPT
Jul, 94 min de leitura
FrontendOpenAI adiciona Trusted Contact, um fluxo opcional de notificação de crise, ao ChatGPT
Uma nova configuração permite que adultos indiquem alguém que pode ser avisado se revisores treinados identificarem que uma conversa sinaliza risco sério de autolesão — com uma notificação deliberadamente enxuta em detalhes.
O que a configuração realmente adiciona ao app
Trusted Contact é um recurso opcional configurado nas configurações do ChatGPT. Um usuário adulto (18+ globalmente, 19+ na Coreia do Sul) pode indicar uma pessoa — amigo, familiar ou cuidador — que pode ser notificada se os sistemas automatizados da OpenAI e revisores treinados detectarem que o usuário cadastrado pode ter falado sobre se machucar de um jeito que indique uma preocupação séria de segurança.
A OpenAI apresenta isso como uma camada adicional junto com as linhas de ajuda para crises já disponíveis no ChatGPT, não como substituto de cuidado profissional. O recurso estende as notificações de segurança do controle parental, já existentes para contas de adolescentes vinculadas, para qualquer adulto que optar por participar.
O fluxo de cadastro é construído em torno de consentimento e revogação
A mecânica no frontend é bem específica. O usuário adiciona exatamente um contato adulto. Esse contato recebe um convite explicando seu papel e precisa aceitar dentro de uma semana para o recurso ser ativado. Se recusar, o usuário pode indicar outra pessoa.
Os dois lados mantêm controle: o usuário pode editar ou remover o contato nas configurações, e o contato pode se remover a qualquer momento pela central de ajuda. Esse duplo opt-in — o usuário cadastrado escolhe, e a pessoa indicada precisa aceitar ativamente — é a decisão de design que sustenta tudo isso, e é o que diferencia o recurso de um alerta de monitoramento silencioso.
A notificação é intencionalmente enxuta
Quando o monitoramento automatizado sinaliza uma possível preocupação de autolesão, o ChatGPT primeiro avisa o usuário que pode notificar o Trusted Contact dele e incentiva o próprio usuário a entrar em contato, sugerindo formas de iniciar essa conversa. Uma pequena equipe de revisores especialmente treinados avalia a situação antes de qualquer envio.
Se os revisores confirmarem uma preocupação séria, o contato recebe uma notificação breve por e-mail, mensagem de texto ou aviso no app. O ponto crucial é que essa mensagem só compartilha o motivo geral pelo qual a autolesão veio à tona e um link com orientação especializada — nada de detalhes da conversa ou transcrições. O conteúdo é deliberadamente limitado para proteger a privacidade do usuário cadastrado, mas ainda assim gerar um contato real no mundo físico.
Há um revisor humano no processo, com meta de tempo definida
A OpenAI afirma que toda notificação passa por revisão humana treinada antes de ser enviada, e que busca revisar essas notificações de segurança em menos de uma hora. É um compromisso operacional concreto: o classificador automatizado é um gatilho, não quem decide, e existe uma pessoa e um prazo entre a detecção e o alerta.
A OpenAI também reconhece abertamente as falhas possíveis — nenhum sistema é perfeito, e uma notificação pode não refletir sempre o que a pessoa está realmente vivendo. A etapa de revisão humana é apresentada como a forma de mitigar sinais falsos.
A implicação: resposta a crises como superfície de produto, não só comportamento de modelo
O que a OpenAI lançou aqui é, em boa parte, frontend e fluxo de trabalho: uma opção nas configurações, um handshake de convite e aceite, um aviso dentro da conversa, uma fila de revisão com meta de tempo, e um modelo de mensagem limitado por privacidade. Os comportamentos de detecção e recusa já existiam; o Trusted Contact apenas direciona um sinal confirmado para uma pessoa real pré-escolhida pelo usuário.
A aposta de design, apoiada pela citação da APA sobre conexão social como fator de proteção, é que a ação mais útil numa crise não é uma resposta melhor do modelo, mas sim uma ponte para uma pessoa real e nomeada. Para times que constroem interfaces de conversas sensíveis, o padrão que chama atenção é a sobreposição de camadas de consentimento e uma etapa de revisão humana em torno de um classificador automatizado — tratando quem é avisado, com que rapidez e quão pouco se diz como decisões de produto de primeira grandeza.
Find this story relevant to you?
Contact us to find a unique solution
Precisa de um parceiro de engenharia de IA que consiga construir de verdade?
Ajudamos empresas no Brasil a integrar IA, acelerar produtos com IA, automatizar operações e modernizar os sistemas de software por trás do negócio.
Leituras relacionadas
Mais análises sobre entrega de produto, IA operacional e o trabalho de sistemas que faz a implantação se sustentar na prática.