«Disarmare l’intelligenza artificiale» e «rimanere umani»: Leone XIV firma la sua prima enciclica

È stata presentata oggi “Magnifica humanitas”, la prima Lettera Enciclica di Papa Leone XIV, testo riguardante la «custodia della persona umana nel tempo dell’intelligenza artificiale». Scritta a distanza di un anno dalla sua elezione, l’Enciclica porta la firma del 15 maggio, data simbolica perché coincide con il 135esimo anniversario della Rerum Novarum di Papa Leone XIII.

Tra le curiosità emerse nel corso della presentazione avvenuta nell’Aula del Sinodo in Vaticano c’è il fatto che non solo per la prima volta un Pontefice ha presenziato alla divulgazione del testo, ma anche che per questo evento fosse presente Christopher Olah, che è il co-fondatore di Anthropic, società di Intelligenza artificiale al centro dell’attenzione prima per aver detto no al Pentagono all’uso indiscriminato dell’IA nei conflitti armati e poi per aver sviluppato un sistema, chiamato Mythos, non ancora commercializzato perché giudicato troppo potente e in grado di bypassare in pochi minuti qualunque sistema di sicurezza.

L’enciclica è composta da 231 pagine divise in cinque capitoli e un’introduzione che si apre con queste parole: «La magnifica umanità creata da Dio si trova oggi di fronte ad una scelta decisiva: innalzare una nuova torre di Babele o edificare la città dove Dio e l’umanità abitano insieme». L’intelligenza artificiale, secondo quanto scritto da Leone XIV, «va disarmata» per sottrarla dalla logica della competizione militare, economica e conoscitiva: bisogna «impedirle di dominare l’umano» e «rompere l’equivalenza tra potenza tecnica e diritto di governare». Non solo. Il Papa lancia un chiaro monito non solo a chi sviluppa questi sistemi, ma anche a chi la utilizza. L’invito di Leone XIV è di «rimanere profondamente umani nel tempo dell’intelligenza artificiale, in cui la dignità umana rischia di essere oscurata da nuove forme di disumanizzazione».

In continuità con la Rerum Novarum di Leone XIII, quello di Prevost è un documento carico di valenza sociale, in cui si insiste molto sulla centralità dell’uomo in un’epoca in cui tutto sembra governato dagli algoritmi e in cui a rischio sembra la stessa dignità umana. Prevost punta il dito contro la crescita dell’industria bellica, la corsa agli armamenti nucleari, l’emergere di nuovi attori armati, tra cui gruppi jihadisti, che mirano a perpetuare i conflitti come fonte di potere e di rendita. Netto, poi, il monito contro l’uso di armi legate all’intelligenza artificiale perché «non esiste algoritmo che possa rendere la guerra moralmente accettabile».

La tecnologia, è la sottolineatura di Prevost, «non sottrae il conflitto alla sua intrinseca disumanità, può soltanto renderlo più rapido e impersonale, abbassando la soglia del ricorso alla violenza e trasformando la difesa in previsione operativa, con le vittime ridotte a dati. Così, ci abitua all'idea che la violenza sia inevitabile e vada solo ottimizzata». Dunque, servono vincoli etici rigorosi, condivisi a livello internazionale, perché «ogni tecnologia che rende più facile colpire senza vedere il volto dell'altro abbassa la soglia morale del conflitto». Il Papa sottolinea anche che «la promozione del bene comune non può mai essere separata dal rispetto del diritto dei popoli ad esistere, a custodire la propria identità e a contribuire con la propria originalità alla famiglia delle nazioni». Quindi «qualsiasi tentativo o progetto di eliminare o sottomettere una nazione è gravemente immorale e pertanto inaccettabile».

Ma non c’è solo il tema della guerra e della corsa al riarmo in questa enciclica. Il Pontefice sottolinea che «in un contesto in cui la ricchezza delle nazioni dipende sempre più da conoscenze e tecnologie, quando questi beni restano concentrati nelle mani di pochi, senza adeguate forme di condivisione e di accesso, si crea un nuovo squilibrio», e poi parla anche dei cambiamenti nel mondo del lavoro: segnala il pericolo che oggi, nella quarta rivoluzione industriale l’innovazione sia spesso accolta «solo in funzione della riduzione dei costi e dell’aumento dei profitti» e avverte anche che con l’intelligenza artificiale si sta creando una nuova schiavitù, dal lavoro per estrarre le terre rare a quello dei database: «Una parte significativa del funzionamento dell'economia digitale si regge sul lavoro silenzioso di milioni di esseri umani, impiegati in attività poco visibili ma essenziali: etichettatura dei dati, moderazione dei contenuti - spesso pessimi -, addestramento dei modelli. In molti casi si tratta di giovani, per lo più donne, che lavorano duramente per compensi minimi. A questa fatica invisibile si aggiunge quella, ancora più brutale dell'estrazione delle risorse necessarie alla produzione dei dispositivi e dei microprocessori su cui poggia l'IA. In alcune regioni del mondo, adolescenti e bambini lavorano in condizioni pericolose nella frantumazione dei materiali da cui si ricavano le terre rare. Corpi segnati, mutilati, consumati perché il flusso del calcolo non si interrompa. Inoltre, reti criminali si servono di piattaforme di rete, sistemi di messaggistica, pagamenti anonimi e tecniche di profilazione per reclutare, controllare e spostare vittime di tratta, molte volte minori, trasformando uomini e donne in 'dati' da tracciare e 'pacchi' da trasferire entro gli stessi circuiti digitali che sostengono gran parte dell'economia globale. Questa realtà - conclude Leone XIV - interpella profondamente la coscienza morale del nostro tempo».