OpenAI rafforza i controlli sulle immagini AI e lancia un portale per verificarle

In pochi mesi, capire se un’immagine è stata generata con AI è diventato sempre più difficile, soprattutto quando il file passa da una piattaforma all’altra e perde le informazioni sulla sua origine. Per ridurre questo margine di incertezza, OpenAI ha annunciato l’introduzione di un nuovo sistema di identificazione per i contenuti prodotti con i suoi modelli: ai Content Credentials basati su C2PA si aggiungeranno ora anche i watermark SynthID di Google DeepMind.

L’obiettivo è non affidarsi più a un solo livello di controllo. I metadati C2PA possono offrire informazioni dettagliate sulla provenienza del file, ma rischiano di sparire quando un’immagine viene caricata, compressa o ricondivisa su piattaforme che non li conservano. SynthID, invece, può mantenere un segnale riconoscibile anche quando quei dati non sono più presenti, per esempio dopo trasformazioni come gli screenshot.

"Questi due sistemi si rafforzano a vicenda. C2PA aiuta i contenuti a portare con sé un contesto dettagliato; SynthID aiuta a preservare un segnale quando i metadati non sopravvivono. Il watermarking può essere più resistente attraverso trasformazioni come gli screenshot, mentre i metadati possono fornire più informazioni rispetto al solo watermark. Insieme, rendono la provenienza più resiliente di quanto ciascun livello sarebbe da solo".

SynthID verrà applicato inizialmente alle immagini generate da ChatGPT, Codex o tramite OpenAI API. Il sistema inserisce un watermark invisibile nell’immagine e interviene su uno dei limiti più evidenti dei controlli basati solo sui metadati: quando il contenuto esce dall’ambiente originale, quelle informazioni possono andare perse durante i normali passaggi tecnici.

CLICCA QUI PER CONTINUARE A LEGGERE