Per il Nobel Geoffrey Hinton c’è un rischio del dieci per cento che l’IA stermini l’umanità

Geoffrey Hinton, uno dei ricercatori che hanno contribuito maggiormente allo sviluppo dell’intelligenza artificiale moderna, ritiene non irragionevole che sistemi molto avanzati possano arrivare a causare l’estinzione dell’umanità. Il premio Nobel per la Fisica del 2024, che ha lavorato per decenni sulle reti neurali artificiali ed è considerato uno dei pionieri delle tecniche su cui si basano molti dei sistemi di IA contemporanei, lo ha detto in un’intervista alla Bbc, nella quale ha chiesto ai governi di accelerare sulla sicurezza e sulla regolamentazione dell’intelligenza artificiale. Hinton ha spiegato che il problema principale è l’assenza di precedenti con cui confrontare quello che sta accadendo. «È una di quelle cose molto difficili da stimare, perché non ci siamo mai trovati davanti a nulla di simile. Non abbiamo mai creato esseri che potrebbero presto diventare più intelligenti di noi. Non sappiamo che cosa succederà».

Secondo il premio Nobel, se un sistema diventasse molto più intelligente degli esseri umani, sarebbe difficile prevedere in anticipo tutti i modi in cui potrebbe provocare conseguenze gravi. Interrogato su scenari concreti, ha citato la capacità di manipolare le persone attraverso la comunicazione, di progettare agenti biologici pericolosi e di condurre attacchi informatici. «La prima cosa da capire è che non ha nemmeno bisogno di poter agire nel mondo reale per provocare devastazioni. Potrebbe causare il caos più completo semplicemente parlando con le persone. Ma sarà anche in grado di progettare virus pericolosi: virus biologici, oltre a quelli informatici. Potrebbe sferrare attacchi informatici devastanti».

Il problema, secondo Hinton, è riuscire a sviluppare sistemi che rimangano controllabili anche con l’aumento delle loro capacità. È uno dei principali campi di ricerca sulla sicurezza dell’intelligenza artificiale e riguarda la possibilità di mantenere il comportamento dei modelli compatibile con gli obiettivi e i vincoli stabiliti dagli esseri umani. Hinton ritiene che la competizione tra le aziende possa rendere questo lavoro più difficile. I principali gruppi tecnologici stanno investendo enormi risorse nello sviluppo di modelli sempre più capaci, in un mercato nel quale un vantaggio anche temporaneo sui concorrenti può avere un grande valore economico. «Mentre cercano di rendere questi sistemi più intelligenti, dovrebbero essere prudenti e capire come affrontare i pericoli che già conoscono. Invece le grandi aziende tecnologiche fanno a gara per rendere l’IA sempre più intelligente, perché è lì che si trovano i profitti a breve termine».

Hinton ha quindi chiesto un intervento più deciso dei governi. Secondo lui, i rischi collegati all’IA sono diversi e richiedono strumenti differenti. La manipolazione delle informazioni, gli attacchi informatici, l’impiego dell’IA nella progettazione biologica e un’eventuale perdita di controllo sui sistemi più avanzati non possono essere affrontati con un’unica misura. «Dovete regolamentare questa tecnologia. Il primo messaggio è che esistono molti tipi diversi di rischio e ciascuno richiede una soluzione diversa».

Il premio Nobel per la Fisica non considera realistico fermare lo sviluppo dell’intelligenza artificiale. Ha ricordato che la stessa tecnologia può avere applicazioni molto utili nella sanità, nell’istruzione, nella ricerca scientifica e nella progettazione di nuovi farmaci. Ha parlato positivamente anche dei chatbot, che utilizza nella vita quotidiana. «È una tecnologia meravigliosa, che potrebbe migliorare molto la vita di tante persone», ha detto. Per Hinton il problema è quindi governarne lo sviluppo senza rinunciare ai benefici, rafforzando nello stesso tempo le misure di sicurezza.

Secondo il premio Nobel sarà più difficile raggiungere la cooperazione internazionale su alcuni usi dell’intelligenza artificiale, come la produzione di contenuti falsi destinati a influenzare le elezioni, perché gli interessi degli Stati possono essere contrapposti. La situazione sarebbe diversa davanti al rischio che sistemi avanzati possano sfuggire al controllo umano. Per spiegare questo punto ha richiamato la cooperazione tra Stati Uniti e Unione Sovietica durante la Guerra fredda per limitare il rischio di una guerra nucleare globale. «Nessun Paese vuole che l’IA prenda il controllo al posto degli esseri umani. Su questo punto, quindi, troveranno certamente un’intesa e collaboreranno. La domanda è se riusciranno a farlo abbastanza in fretta».

È sui tempi che le valutazioni di Hinton sono cambiate maggiormente. In passato riteneva che l’arrivo di sistemi più intelligenti degli esseri umani potesse richiedere diversi decenni. In seguito aveva ridotto la previsione a un periodo compreso tra dieci e vent’anni. «Un tempo pensavo a un orizzonte di 30–50 anni. Poi l’ho ridotto a circa 10–20 anni. Ora penso che forse siano dieci anni, forse meno. E altri pensano che accadrà molto prima».

Nella parte finale dell’intervista ha contestato anche l’idea che l’attuale sviluppo dell’intelligenza artificiale sia soprattutto una moda destinata a ridimensionarsi. Secondo Hinton, le capacità già raggiunte dai modelli mostrano un progresso sostanziale nella comprensione del linguaggio e nella soluzione di problemi complessi. Ha indicato la matematica come uno degli esempi più significativi. «Oggi matematici di primo piano affermano che non c’è futuro per i matematici che non lavorano con i chatbot. E ormai i chatbot riescono a dimostrare cose che i matematici non riuscivano a dimostrare. Qualche anno fa sarebbe sembrato ridicolo. Oggi è già realtà».

Per Hinton la velocità con cui queste capacità stanno migliorando rende sempre più stretto il rapporto tra sviluppo tecnologico e sicurezza. La questione centrale, ha detto alla BBC, è se governi, aziende e ricercatori riusciranno a costruire regole e sistemi di controllo abbastanza rapidamente.

L'articolo Per il Nobel Geoffrey Hinton c’è un rischio del dieci per cento che l’IA stermini l’umanità proviene da Linkiesta.it.