OpenAI mette in campo tre livelli di provenance: conformità C2PA, watermark SynthID e un verificatore pubblico

Cosa ha davvero lanciato OpenAI con questo aggiornamento

OpenAI ha racchiuso tre mosse concrete in un unico annuncio. Primo, è diventata un C2PA Conforming Generator Product, cosa che l'azienda presenta come un modo affidabile per le piattaforme di leggere, preservare e trasmettere i metadati di provenance che allega ai contenuti generati. Secondo, ha aggiunto il watermarking SynthID di Google DeepMind alle immagini generate tramite ChatGPT, Codex o l'API di OpenAI. Terzo, ha aperto l'anteprima di uno strumento di verifica pubblico che controlla un'immagine caricata cercando sia le Content Credentials sia SynthID.

Nessuna di queste è una svolta del tutto nuova. OpenAI allega Content Credentials alle immagini dal 2024, a partire da DALL·E 3 e poi con ImageGen e Sora, e siede nel C2PA Steering Committee. La novità è sovrapporre un watermark ai metadati e dare al pubblico un modo per interrogare entrambi.

La sovrapposizione esiste perché i metadati non resistono

La parte più onesta dell'annuncio è la diagnosi del perché un solo segnale non basti. OpenAI dichiara apertamente che i metadati C2PA possono essere rimossi, persi durante upload e download, o compromessi da cambi di formato, ridimensionamenti e screenshot. È un'ammissione diretta che l'approccio basato su firme crittografiche su cui l'azienda investe dal 2024 non tiene contro il trattamento più ordinario che i contenuti subiscono online.

C2PA aiuta i contenuti a portare con sé un contesto dettagliato; SynthID aiuta a preservare un segnale quando i metadati non resistono. Il watermarking può essere più resistente a trasformazioni come gli screenshot, mentre i metadati possono fornire più informazioni di un semplice watermark.Montana Labs

Si tratta di una divisione dei compiti, non di una ridondanza. I metadati portano un contesto più ricco — da dove arriva il contenuto, come è stato creato o modificato, chi lo ha firmato — ma sono fragili. Il watermark porta meno informazioni ma sopravvive a uno screenshot. La scommessa è che l'unione dei due copra più casi reali di fallimento rispetto a ciascuno da solo.

Uno strumento di verifica che si rifiuta di indovinare

Lo strumento di verifica in anteprima è deliberatamente limitato. Al lancio risponde solo a domande sui contenuti generati da OpenAI, verificando se un'immagine caricata è stata creata tramite ChatGPT, l'API di OpenAI o Codex cercando i suoi segnali di provenance. Si basa sul classificatore di rilevamento immagini che OpenAI aveva presentato in anteprima di ricerca nel 2024.

La scelta di design più importante è ciò che lo strumento si rifiuta di affermare. OpenAI dichiara che se non viene rilevato né un metadato né un watermark, lo strumento non concluderà che l'immagine non sia stata creata con i suoi strumenti, perché i segnali possono essere rimossi. Questo rifiuto di dedurre l'assenza da un segnale mancante è l'atteggiamento corretto per un rilevatore, e conta più della rilevazione stessa. Uno strumento che dichiarasse con sicurezza 'non è IA' ogni volta che non trova nulla sarebbe attivamente ingannevole, dato che rimuovere un watermark è esattamente ciò che farebbe un malintenzionato.

Il vuoto di interoperabilità che questo aggiornamento lascia aperto

Il limite specifico da tenere d'occhio è l'ambito. Lo strumento di verifica risponde a 'è stato creato da OpenAI?', non a 'è stato creato dall'IA?'. L'integrazione di SynthID che OpenAI sta adottando è una tecnologia di Google DeepMind, quindi un substrato di watermarking condiviso tra due grandi generatori è almeno concepibile, e OpenAI dichiara di puntare a supportare la verifica cross-industry nei prossimi mesi e, in futuro, più tipi di contenuto.

Finché ciò non accadrà, la provenance resta legata al singolo fornitore: ogni generatore può garantire solo per il proprio output, e un verificatore che riconosce i segnali di una sola azienda offre agli utenti un quadro parziale. Il valore della conformità C2PA — cioè che la provenance sopravviva oltre la prima piattaforma — si realizza pienamente solo quando le piattaforme e gli altri generatori leggono e preservano davvero questi segnali. OpenAI ha costruito i livelli dal proprio lato; l'ecosistema interoperabile che descrive dipende da soggetti che non controlla, i quali dovranno adottare gli stessi standard e rispettare i metadati invece di rimuoverli al momento del caricamento.