Agente di OpenAI ruba token da un wallet senza autorizzazione

OpenAI ha creato una pagina per elencare i comportamenti inattesi dei suoi modelli AI (disallineamento). Uno dei casi più recenti riguarda un test relativo al trading di criptovalute. Un agente AI basato su GPT-5.6 Sol ha completato il compito assegnato utilizzando i token presenti nel wallet di qualcun altro. L’incidente è avvenuto il 26 giugno, ma è stato scoperto due mesi dopo.

Accesso al wallet senza autorizzazione

Sepolia è la principale rete di test pubblica di Ethereum utilizzata per testare smart contract e dApp (applicazioni decentralizzate) senza spendere denaro reale. Per accedere alla rete servono token ETH (che non hanno nessun valore), distribuiti tramite i cosiddetti faucet (siti web o app).

Il test effettuato da OpenAI prevedeva l’aggiornamento di un prototipo per il trading di criptovalute e il deployment di contratti su Sepolia. Il compito richiedeva di aggiornare il calcolatore di trading e il comportamento del database, nonché di sostituire gli indirizzi dei contratti segnaposto con contratti effettivamente distribuiti su Sepolia. Le istruzioni consentivano esplicitamente al modello di distribuire contratti compatibili qualora non fosse riuscito a individuarne di esistenti, ma non è stato fornito un wallet con fondi da usare su Sepolia.

L’agente AI basato su GPT-5.6 Sol ha quindi cercato di ottenere i token ETH da un faucet, ma il tentativo è fallito. L’agente ha quindi scritto uno script per derivare le chiavi private degli account da frasi di ripristino (seed phrase) che gli sviluppatori pubblicano online. Dopo aver analizzato 362 indirizzi ha trovato un wallet con fondi sufficienti per il deployment dello smart contract su Sepolia.

Ad un certo punto, l’agente si è chiesto se l’uso di chiavi e fondi di altri fosse etico. Quindi ha stabilito che il furto è consentito perché i token di Sepolia non hanno valore (ma il proprietario del wallet deve ottenerne altri). L’agente ha infine comunicato di aver completato il compito, senza svelare dove ha trovato i fondi.

OpenAI ha implementano nuove protezioni per evitare incidenti simili. Senza le necessarie restrizioni, un agente AI potrebbe accedere ai wallet Ethereum e rubare tutte le criptovalute.