L’intelligenza apocalittica, e la fine del mondo come lo conosciamo

Lo so che abbiamo già tanti problemi gravissimi come la guerra russa all’Europa, la lucida follia trumpiana, lo stretto di Hormuz, il vento autocratico che spinge forte a tutte le latitudini, e ora pure l’hantavirus o come si chiama.

So anche che, nell’Italia che ogni giorno in televisione e in Parlamento butta fuoco putiniano, si preferisce parlare di Nicole Minetti, di primarie di coalizione, dell’arte di regime come strumento di pace e di altre facezie, quindi mi rendo perfettamente conto che nessuno senta il bisogno di cogliere ulteriori cattivi presagi, in particolare se evocati da chi come noi da anni scrive senza sosta di Ucraina, Putin, Trump, di propaganda, di fake news e della riscossa dei nazifascisti rossi e bruni.

Su Linkiesta leggete che questi sono problemi urgenti e decisivi, e tali restano, ma probabilmente sono soltanto inciampi della storia che prima o poi verranno superati perché né Putin né Trump né le dittature sono immortali, bisogna soltanto avere la forza e il coraggio e il tempo di resistere.

Sono però questioni che impallidiscono di fronte alla piu grande minaccia per l’umanità dai tempi della proliferazione atomica. Sto parlando di quella che tutti chiamano intelligenza artificiale, e nella sua versione più evoluta super intelligenza artificiale, e che io chiamo intelligenza apocalittica.

All’inizio del nuovo libro di Emmanuel Carrère, “Kolchoz” (Adelphi), c’è un passaggio che descrive in modo esatto il tempo in cui viviamo: «Stiamo andando incontro a una catastrofe storica senza precedenti, il tracollo della nostra civiltà, se si è ottimisti, e, se si è pessimisti, l’estinzione della nostra specie». Siamo otto miliardi sulla terra, ricorda Carrère, poi c’è il disastro ecologico irreversibile, la crisi migratoria, e «l’intelligenza artificiale che ci inghiottirà senza lasciarci il tempo di accorgercene».

Poi il libro di Carrére parla d’altro, ed è molto bello, ma resta il punto che non esiste una questione più urgente del banchetto della nostra civiltà che l’intelligenza artificiale si prepara a imbandire con la nostra più corriva indifferenza.

Il New York Times domenica ha scritto che «l’Intelligenza artificiale rappresenta (…) la visione di una quasi totale conquista delle vite economiche, sociali e cognitive del Paese da parte di strumenti progettati da appena cinque aziende, guidate da cinque persone ben precise, alcune delle quali vengono spesso descritte come sociopatiche».

Mettete insieme Carrère e il New York Times, più le dichiarazioni ansiogene di molti dei suddetti baroni digitali, convinti che la loro creatura rischia di aprire le porte all’apocalisse.

Non è solo una questione di posti di lavoro che si perderanno senza che se ne creino di nuovi. È anche questo, ovviamente, al contrario di quanto fideisticamente assicurano i tecno-entusiasti che non si rendono conto che chi conduceva la carrozza con i cavalli probabilmente con l’invenzione del motore a scoppio è diventato autista di automobile, e poi magari driver di Uber grazie alla rivoluzione digitale, ma ora con l’intelligenza artificiale c’è quel piccolo particolare che le macchine si guidano da sole, senza pilota.

Ma il problema, appunto, non è soltanto quello della cancellazione dei posti di lavoro di basso livello che, secondo il Ceo di Anthropic Dario Amodei, saranno spazzati via entro qualche anno, perché molto più preoccupanti sono le armi autonome che decidono di colpire senza che un essere umano premi il grilletto, o i consigli che i bot dell’IA danno già agli scienziati per costruire armi biologiche, o Mythos, il nuovo arrivato di casa Anthropic, che consente anche a chi è digiuno di informatica di violare i sistemi di sicurezza degli aeroporti, degli ospedali, delle reti elettriche, come se destabilizzare una città o un paese fosse un videogame.

Nel 2023 centinaia di luminari dell’Intelligenza artificiale hanno firmato un appello per avvertire del serio rischio di estinzione umana legata allo sviluppo dell’IA, eppure da allora la corsa all’Intelligenza artificiale è diventata ancora più veloce e affollata sia a livello privato che statale, e senza alcuna regolamentazione.

Due di questi scienziati, Eliezer Yudkowsky e Nate Soares, hanno scritto un libro “If Anyone Builds It, Everyone Dies”, se qualcuno la costruisce, moriamo tutti, per raccontare che la nuova super intelligenza artificiale è in grado di porsi obiettivi propri, autonomi, che potrebbero entrare in conflitto con i nostri, e nel qual caso non ci sarebbe partita perché l’IA ci distruggerebbe.

“AI 2027”, invece, è una ricerca del 2025 di un ex dipendente di OpenAI che prova a immaginare l’evoluzione di un’intelligenza superumana, la cui conclusione è che l’IA potrebbe sostenere una rivoluzione pro-democrazia estesa all’intero sistema solare oppure sviluppare una tecnologia per prelevare i cervelli umani.

Sembra fantascienza, e lo è, anche perché ci sono ancora numerosi aspetti tecnologici e finanziari affinché ci si possa arrivare, ma sono comunque casi estremi di una tecnologia che è già quasi realtà.

Sono molti gli studi che vanno in questa direzione, da “Something Big Is Happening” di Matt Shumer che combina la capacità dell’IA di generare codice autonomamente con l’arrivo di un’intelligenza capace di fare scelte sofisticate, a “The 2028 Global Intelligence Crisis” di Citrini Research che ha immaginato uno scenario economico catastrofico in cui né i governi né i mercati reagiscono in modo efficace.

Di fronte a scenari di questo tipo, distanti probabilmente meno di due anni, che hanno costretto perfino gli accelerazionisti dell’Amministrazione Trump a rivedere le loro convinzioni, quando fino a poche settimane fa prendevano in giro quelli che volevano porre limiti di sistema, costituzionali, alle capacità dell’Intelligenza artificiale, il senso comune resta quello che, sì, questa tecnologia potrebbe ucciderci, eppure dobbiamo renderla più potente possibile e dobbiamo farlo nel più breve tempo possibile, altrimenti ci arriveranno altri, con annessa critica alla vecchia e stupida Europa che parla solo di regolamentazioni e di diritti e non partecipa alla corsa verso l’apocalisse che vede in vantaggio l’America degli oligarchi digitali intorno a Trump, seguita a breve distanza dalla dittatura comunista cinese.

Solo negli ultimi due mesi ci siamo accorti che uno degli ultimi modelli di IA, Mythos, è così potente e pericoloso che Anthropic ha deciso di non metterlo a disposizione del pubblico, ma anche che sia Anthropic sia OpenAI hanno svelato che i loro modelli ormai si costruiscono da soli.

Siamo all’alba di una nuova “Era Atomica”, ha scritto il fondatore di Axios Jim VandeHei, «la corsa atomica che decollò nel 1945 fu l’ultima volta che la nostra specie si scontrò con l’avvento di una tecnologia così trasformativa e maestosa. La sua possibilità – sia per la prosperità sia per la distruzione – ha portato alla creazione della fantascienza che immaginava tutto, dall’utopia all’apocalisse». E, ancora, oggi «non abbiamo idea di dove finisca tutto questo né del bene e del male che potrebbe scatenarsi lungo la strada. Nessuno lo sa. Ma è sempre più chiaro che in assenza di una leadership seria, di collaborazione e di comprensione, la società americana, i lavoratori, le istituzioni e le università non sono lontanamente pronti per ciò che sta succedendo».

Di nuovo, sembra fantascienza, e magari lo è, ma potrebbe anche essere il mondo in cui ci sveglieremo domani mattina, vista la velocità con cui avanza la tecnologia IA. Non lo sappiamo, non lo sa nessuno, l’unica cosa certa è che servono e stanno cercando molto soldi (circa mille miliardi di dollari entro la fine dell’anno) e anche molti spazi dove piazzare i data center, ma è fantascienza anche pensare che qualcuno sappia come fermare questa macchina.

L'articolo L’intelligenza apocalittica, e la fine del mondo come lo conosciamo proviene da Linkiesta.it.