C'è un font che prova a ingannare l'AI con messaggi nascosti

Cosa leggi nell’immagine di copertina che apre questo articolo? Con tutta probabilità ALGORITMO DIGITALE. E se invece ti dicessi che c’è un messaggio nascosto? Guarda meglio, è proprio MESSAGGIO NASCOSTO. La scritta è stata realizzata con Decoy Font (dall’inglese, esca) un font TrueType messo a punto con l’obiettivo di ingannare l’AI.

Decoy Font prova a nascondere i messaggi all’AI

La base da cui è partito l’autore del progetto è quella del DejaVu Sans Mono. Il principio di funzionamento è ingegnoso, ispirato a quello delle immagini ibride: stampa un’immagine fasulla per ogni lettera, utilizzando frequenze spaziali separate per mostrare due lettere diverse nello stesso spazio. In primo piano ce n’è una rappresentata da contorni sottili, mentre sullo sfondo una massa sfocata, comunque interpretabile dall’occhio umano. Sovrapponendole, ciò che si vede dipende dal modo in cui si guarda.

Se si incontrano difficoltà a vedere il messaggio nascosto, è sufficiente allontanare lo schermo o socchiudere gli occhi. È esattamente ciò che cerca di fare l’intelligenza artificiale. Abbiamo fatto un test con ChatGPT ed ecco il risultato.

Effettivamente, a una prima analisi, il chatbot nota la scritta SERVE ETICA disegnata dai contorni sottili in primo piano, ma non il RESTA CALMO che c’è dietro. C’è però una brutta notizia per l’autore del progetto: è bastato sottoporre una richiesta un po’ più specifica perché l’automatismo riuscisse a trovare il messaggio nascosto. Non abbiamo ancora trovato il modo di comunicare senza essere sorvegliati dall’AI.

Decoy Font è in download gratuito (link diretto) e può essere utilizzato liberamente a scopi personali e commerciali. Per fare dei test è disponibile anche un editor su Mixfont. Questo l’obiettivo.

Con il progressivo miglioramento delle capacità dell’intelligenza artificiale nella lettura del testo online, cresce anche l’interesse per la protezione delle informazioni e della proprietà intellettuale. I font anti-IA possono contribuire a oscurare il testo nelle immagini e a garantire che i messaggi destinati agli esseri umani vengano letti solo da altri esseri umani.