Leone XIV: «Non fermare le nuove tecnologie ma governarle. L’IA sia alleata, non oracolo»

Da Vatican News

Bot, chatbot, feed, privacy, deepfake, algoritmi. È uno sguardo attento quello di Papa Leone XIV nel suo Messaggio per la 60esima Giornata Mondiale delle Comunicazioni Sociali alle nuove tecnologie, ai loro linguaggi, all’ondata di novità e facilitazioni che esse portano alla vita della gente e della società ma anche alle opacità e ai tanti pericoli – “frodi digitali” e “cyberbullismo” alcuni di quelli citati – che si trascinano dietro.

Una manciata di aziende dietro una forza enorme

Una «enorme forza invisibile», dietro alla quale c’è «solo una manciata di aziende, quelle i cui fondatori sono stati recentemente presentati come creatori della persona dell’anno 2025, ovvero gli architetti dell’Intelligenza Artificiale», scrive Papa Leone nel doumento, pubblicato oggi 24 gennaio, memoria di San Francesco di Sales, patrono della stampa cattolica, in cui parla pure di «controllo oligopolistico» dei sistemi algoritmici e di IA in grado di «orientare sottilmente i comportamenti, e persino riscrivere la storia umana – compresa la storia della Chiesa – spesso senza che ce ne si possa rendere realmente conto».

Guidare l’innovazione

Nel Messaggio il Pontefice domanda pertanto una guida, una governance e un orientamento per questo mondo digitale che va sempre più sviluppandosi, così che le tecnologie avanzate diventino “alleate” dell’uomo e non oracoli onniscienti, tantomeno sostitutivi di relazioni e comunicazione. «La sfida che ci aspetta non sta nel fermare l’innovazione digitale, ma nel guidarla, nell’essere consapevoli del suo carattere ambivalente. Sta a ognuno di noi alzare la voce in difesa delle persone umane, affinché questi strumenti possano veramente essere da noi integrati come alleati»

Volti e voci umani

È dunque una comunicazione fatta di “volti” e di “voci” quella che domanda il Successore di Pietro. Volti e voci umane, reali, autentiche, non quelle simulate dall’IA che in quest’epoca di “multidimensionalità”, rende “sempre più difficile distinguere la realtà dalla finzione”. Proprio Custodire voci e volti umani è il tema scelto per l’edizione 2026 di questa Giornata istituita con il Decreto Inter Mirifica (1963) del Concilio Vaticano II.

«Volto e voce sono sacri. Ci sono stati donati da Dio che ci ha creati a sua immagine e somiglianza – afferma il Pontefice -. Non siamo una specie fatta di algoritmi biochimici, definiti in anticipo. Ciascuno di noi ha una vocazione insostituibile e inimitabile che emerge dalla vita e che si manifesta proprio nella comunicazione con gli altri». 

Sfida antropologica

La tecnologia digitale rischia di «modificare radicalmente alcuni dei pilastri fondamentali della civiltà umana» e di simulare anche »sapienza e conoscenza, consapevolezza e responsabilità, empatia e amicizia», osserva il Papa. I sistemi artificiali finiscono così per invadere «il livello più profondo della comunicazione, quello del rapporto tra persone umane. La sfida pertanto non è tecnologica, ma antropologica. Custodire i volti e le voci significa in ultima istanza custodire noi stessi». 

Indebolimento della capacità di ascolto e pensiero

Oggi, annota Leone XIV, accade infatti che «algoritmi progettati per massimizzare il coinvolgimento sui social media – redditizio per le piattaforme – premiano emozioni rapide», e chiudono così «gruppi di persone in bolle di facile consenso, indeboliscono la capacità di ascolto e di pensiero critico e aumentano la polarizzazione sociale».

A tutto questo si aggiunge «un affidamento ingenuamente acritico all’Intelligenza Artificiale» come se fosse una «amica onnisciente, dispensatrice di ogni informazione, archivio di ogni memoria, ‘oracolo’ di ogni consiglio. Tutto ciò può logorare ulteriormente la nostra capacità di pensare in modo analitico e creativo, di comprendere i significati, di distinguere tra sintassi e semantica», ammonisce Leone. Non solo: accontentarsi di «una compilazione statistica artificiale», finisce a lungo andare per «erodere le nostre capacità cognitive, emotive e comunicative». 

Il rischio di smantellamento dell’industria musicale e artistica

Su queta scia, il Papa avverte da un ulteriore pericolo quale il controllo dell’IA sulla produzione di testi, musica e video. «Gran parte dell’industria creativa umana rischia così di essere smantellata e sostituita con l’etichetta Powered by AI, trasformando le persone in meri consumatori passivi di pensieri non pensati, di prodotti anonimi, senza paternità, senza amore. Mentre i capolavori del genio umano nel campo di musica, arte e letteratura vengono ridotti a un mero campo di addestramento delle macchine». 

La questione è dirimente: «Rinunciare al processo creativo e cedere alle macchine le proprie funzioni mentali e la propria immaginazione» equivale a »seppellire i talenti che abbiamo ricevuto al fine di crescere come persone in relazione a Dio e agli altri. Significa nascondere il nostro volto, e silenziare la nostra voce».

Chatbot invasivi e troppo “affettuosi”

Nel Messaggio Papa Leone si addentra ancora più profondamente nei gangli delle nuove tecnologie. Mette quindi in guardia da “bot” o “virtual influencers”, agenti automatizzati che coi loro 1interventi non trasparenti» nei feed (i flussi di informazione) riescono a influenzare dibattiti pubblici e scelte delle persone.

Una «persuasione occulta» da parte di chatbot che con la loro «struttura dialogica e adattiva» e la «mimetica» sono capaci di «imitare i sentimenti umani e simulare così una relazione».

Questa antropomorfizzazione, annota Leone, «può risultare persino divertente» ma al contempo è «ingannevole», soprattutto per i più vulnerabili. «I chatbot resi eccessivamente affettuosi, oltre che sempre presenti e disponibili, possono diventare architetti nascosti dei nostri stati emotivi e in questo modo invadere e occupare la sfera dell’intimità delle persone. La tecnologia che sfrutta il nostro bisogno di relazione può non solo avere conseguenze dolorose sul destino dei singoli, ma può anche ledere il tessuto sociale, culturale e politico delle società

Se sostituiamo alle relazioni con gli altri quelle con IA «addestrate a catalogare i nostri pensieri» e quindi a «costruirci intorno un mondo di specchii» ammonisce il Papa, «ci lasciamo derubare della possibilità di incontrare l’altro. Senza l’accoglienza dell’alterità non può esserci né relazione né amicizia». 

Distorsioni, realtà parallele, allucinazioni

Un’altra grande sfida in questo senso è quella della distorsione (in inglese bias), dunque una percezione alterata della realtà da parte dei modelli di Intelligenza Artificiale che possono «imporre modi di pensare replicando gli stereotipi e i pregiudizi presenti nei dati a cui attingono» e anche «farci rimanere intrappolati in reti che manipolano i nostri pensieri e perpetuano e approfondiscono le disuguaglianze e le ingiustizie sociali esistenti».

Il rischio è grande e può condurre alla fabbricazione di «realtà parallele», dove la probabilità statistica è spacciata per conoscenza e l’approssimazione per verità. «Vere e proprie allucinazioni», scrive Leone XIV, che possono intaccare anche il mondo dei media. «Una mancata verifica delle fonti, insieme alla crisi del giornalismo sul campo” può favorire “un terreno ancora più fertile per la disinformazione».

Vigilare sul rispetto della dignità umana

Sono tre, allora, i “pilastri” che il Papa indica a fronte di queste sfide. Responsabilità, cooperazione e educazione. Responsabilità anzitutto «per chi è al vertice delle piattaforme online», perché «le strategie aziendali non siano guidate dal solo criterio della massimizzazione del profitto, ma da una visione lungimirante che tenga conto della dignità di ogni persona e del bene comune, allo stesso modo in cui ognuno di essi ha a cuore il bene dei propri figli».

Allo stesso modo, a creatori e sviluppatori di modelli IA Leone XIV chiede «trasparenza e responsabilità sociale riguardo ai principi di progettazione e ai sistemi di moderazione alla base dei loro algoritmi e dei modelli sviluppati, in modo da favorire un consenso informato da parte degli utenti». La stessa responsabilità è richiesta pure a legislatori nazionali e sovranazionali, perché possano «vigilare sul rispetto della dignità umana” attraverso una regolamentazione che tuteli la gente dai legami emotivi con i chatbot e “contenere la diffusione di contenuti falsi, manipolativi o fuorvianti».

Tutelare su operato di giornalisti e content creator

A loro volta, insiste il Pontefice, le imprese dei media e della comunicazione non possono permettere che «algoritmi orientati a vincere a ogni costo la battaglia per qualche secondo di attenzione in più prevalgano sulla fedeltà ai loro valori professionali, volti alla ricerca della verità. La fiducia del pubblico si conquista con l’accuratezza, con la trasparenza, non con la rincorsa a un coinvolgimento qualsiasi. I contenuti generati o manipolati dall’IA vanno segnalati e distinti in modo chiaro dai contenuti creati dalle persone». 

Va, insomma, «tutelata la paternità e la proprietà sovrana dell’operato dei giornalisti e degli altri creatori di contenuto, perché l’informazione è un bene pubblico» e non può basarsi sull’opacità ma sulla trasparenza e uno standard elevato di qualità.

Cooperazione ed educazione

Da qui, la cooperazione. «Nessun settore può affrontare da solo la sfida di guidare l’innovazione digitale e la governance dell’IA». Bisogna «creare meccanismi di salvaguardia» e coinvolgere tutte le parti interessate per «rendere effettiva una cittadinanza digitale consapevole e responsabile».

E a questo mira l’educazione, sottolinea il Papa. Urgente, a suo parere, introdurre nei sistemi educativi di ogni livello «l’alfabetizzazione ai media, all’informazione e all’IA». Alcune istituzioni civili già la stanno promuovendo, ma noi »come cattolici – afferma il Pontefice – possiamo e dobbiamo dare il nostro contributo, affinché le persone – soprattutto i giovani – acquisiscano la capacità di pensiero critico e crescano nella libertà dello spirito”. Lo stesso servizio va reso anche ad anziani e membri emarginati della società, spesso “esclusi e impotenti di fronte ai rapidi cambiamenti tecnologici. È importante educare ed educarsi a usare l’IA in modo intenzionale, e in questo contesto proteggere la propria immagine (foto e audio), il proprio volto e la propria voce, per evitare che vengano utilizzati nella creazione di contenuti e comportamenti dannosi come frodi digitali, cyberbullismo, deepfake che violano la privacy e l’intimità delle persone senza il loro consenso».

Alfabetizzazione digitale

«Come la rivoluzione industriale richiedeva l’alfabetizzazione di base per permettere alle persone di reagire alla novità, così anche la rivoluzione digitale richiede un’alfabetizzazione digitale – conclude Papa Leone XIV -. Abbiamo bisogno di custodire il dono della comunicazione come la più profonda verità dell’uomo, alla quale orientare anche ogni innovazione tecnologica».