OpenAI: Lockdown Mode contro il prompt injection

Dopo aver migliorato la memoria di ChatGPT, OpenAI ha annunciato una nuova protezione contro gli attacchi di prompt injection. Lockdown Mode limita l’accesso a web e fonti esterne per ridurre il rischio di esfiltrazione dei dati. La funzionalità, introdotta a febbraio, è ora disponibile per tutti gli utenti.

Come funziona il Lockdown Mode

Un attacco di prompt injection permette ai cybercriminali di ingannare i chatbot che accedono a siti e servizi esterni. I cybercriminali possono ad esempio nascondere istruzioni nelle pagine web che vengono eseguite dal chatbot. Il Lockdown Mode limita il connessioni di rete in uscita che potrebbero essere utilizzate per inviare i dati degli utenti ai cybercriminali.

OpenAI sottolinea che la funzionalità non annulla completamente il rischio, in quanto l’attacco di prompt injection potrebbe derivare dai contenuti web privati (cached) e dai file caricati. È inoltre una protezione supplementare per determinate categorie di utenti che gestiscono dati sensibili. La funzionalità può essere attivata nelle impostazioni avanzate di sicurezza.

Quando il Lockdown Mode è attivo, ci sono queste limitazioni:

• Navigazione web in tempo reale: la navigazione web è limitata all’accesso ai soli contenuti memorizzati nella cache. I risultati di ricerca potrebbero essere limitati, non disponibili o non aggiornati
• Supporto immagini: ChatGPT potrebbe non visualizzare immagini nelle risposte standard o non recuperare immagini dal web. Gli utenti possono comunque caricare file immagine e la generazione di immagini rimane disponibile laddove prevista
• Deep research: disabilitata
• Modalità agente: disabilitata
• Canvas: gli utenti non possono approvare il codice generato da Canvas per accedere alla rete
• Download di file: ChatGPT non può scaricare file per l’analisi dei dati (può comunque operare sui file caricati manualmente)

Lockdown Mode non influisce su memoria, upload dei file, condivisione delle conversazioni e accesso di rete in Codex. OpenAI ha inoltre elencato una serie di azioni che non dovrebbero essere eseguite e altre che dovrebbero essere eseguite con attenzione.