Jul, 134 min di lettura
Frontend
News · OpenAI aggiunge Trusted Contact, un flusso opzionale di notifica delle crisi, a ChatGPT
Jul, 94 minuti di lettura
FrontendOpenAI aggiunge Trusted Contact, un flusso opzionale di notifica delle crisi, a ChatGPT
Una nuova impostazione permette agli adulti di indicare qualcuno che può essere avvisato se i revisori formati ritengono che una conversazione segnali un rischio serio di autolesionismo — con un contenuto della notifica deliberatamente ridotto all'osso.
Cosa aggiunge davvero l'impostazione all'app
Trusted Contact è una funzione opzionale configurabile dalle impostazioni di ChatGPT. Un utente adulto (18+ a livello globale, 19+ in Corea del Sud) può indicare una persona — un amico, un familiare o un caregiver — che potrebbe essere avvisata se i sistemi automatici di OpenAI e i revisori formati rilevano che l'utente iscritto potrebbe aver parlato di farsi del male in un modo che indica una seria preoccupazione per la sua sicurezza.
OpenAI la presenta come un livello aggiuntivo accanto alle linee di ascolto per le crisi già mostrate localmente in ChatGPT, non come un sostituto dell'assistenza professionale. La funzione estende le notifiche di sicurezza già previste dal controllo parentale per gli account teen collegati a qualsiasi adulto che scelga di attivarla.
Il percorso di iscrizione è costruito attorno al consenso e alla possibilità di revoca
I meccanismi frontend sono precisi. Un utente aggiunge esattamente un contatto adulto. Quel contatto riceve un invito che spiega il suo ruolo e deve accettarlo entro una settimana perché la funzione si attivi. Se rifiuta, l'utente può indicare un'altra persona.
Entrambe le parti mantengono il controllo: gli utenti possono modificare o rimuovere il contatto dalle impostazioni, e il contatto può rimuoversi in qualsiasi momento tramite il centro assistenza. Questo doppio consenso — l'utente iscritto scelto e la persona indicata che deve accettare attivamente — è la scelta di design portante di questa funzione, e la distingue da un allarme di monitoraggio silenzioso.
La notifica è volutamente minimale
Quando il monitoraggio automatico segnala una possibile preoccupazione di autolesionismo, ChatGPT avvisa prima l'utente che potrebbe notificare il suo Trusted Contact e lo incoraggia a contattarlo di persona, suggerendogli anche alcuni spunti per iniziare la conversazione. Poi un piccolo team di revisori specificamente formati valuta la situazione prima che venga inviato qualcosa.
Se i revisori confermano una preoccupazione seria, il contatto riceve una breve notifica via email, SMS o messaggio in-app. È fondamentale notare che quel messaggio comunica solo il motivo generale per cui è emerso il tema dell'autolesionismo e un link a indicazioni di esperti — nessun dettaglio della chat o trascrizione. Il contenuto è deliberatamente limitato per proteggere la privacy dell'utente iscritto, pur spingendo verso un contatto reale.
Un revisore umano resta nel ciclo, con un obiettivo di tempo dichiarato
OpenAI dichiara che ogni notifica passa attraverso una revisione umana formata prima dell'invio, e che punta a revisionare queste notifiche di sicurezza in meno di un'ora. È un impegno operativo concreto: il classificatore automatico è un innesco, non chi decide, e tra il rilevamento e l'avviso c'è una persona e un tempo limite.
OpenAI riconosce apertamente anche i possibili errori — nessun sistema è perfetto, e una notifica potrebbe non sempre rispecchiare ciò che una persona sta realmente vivendo. La revisione umana è presentata come la mitigazione per i falsi segnali.
L'implicazione: la risposta alle crisi come superficie di prodotto, non solo comportamento del modello
Quello che OpenAI ha rilasciato qui è soprattutto frontend e flusso operativo: una voce nelle impostazioni, uno scambio invito-accettazione, un avviso all'interno della conversazione, una coda di revisione con un obiettivo di tempo e un modello di messaggio vincolato dalla privacy. I comportamenti di rilevamento e rifiuto sottostanti esistevano già; Trusted Contact instrada un segnale confermato verso una persona specifica scelta in anticipo dall'utente.
La scommessa di design, sostenuta dalla citazione dell'APA sul legame sociale come fattore protettivo, è che la mossa più utile in una crisi non sia una risposta migliore del modello ma un ponte verso una persona reale e nominata. Per i team che costruiscono interfacce per conversazioni delicate, lo schema notevole è la stratificazione di barriere di consenso e un passaggio di revisione umana attorno a un classificatore automatico — trattando chi viene avvisato, quanto in fretta e quanto poco dire come decisioni di prodotto di prima categoria.
Find this story relevant to you?
Contact us to find a unique solution
Cerchi un partner di ingegneria AI capace di costruire davvero?
Aiutiamo le aziende a integrare l AI nei prodotti, automatizzare i flussi di lavoro ad alto valore e modernizzare i sistemi software che sostengono la crescita.
Letture correlate
Altre analisi su delivery di prodotto, IA operativa e il lavoro sui sistemi che fa reggere il deployment alla prova dei fatti.