La nuova critica umanista all’intelligenza artificiale

L’opposizione all’intelligenza artificiale negli Stati Uniti si sta allargando, e non soltanto politicamente. Fino a poco tempo fa era relativamente semplice ordinare le principali critiche a questa nuova rivoluzione: il rischio di sostituzione del lavoro, la concentrazione di ricchezza e potere nelle grandi aziende tecnologiche. Chi ha una sensibilità ambientale aggiunge il consumo di acqua ed energia dei data center, gli scrittori il tema del copyright, e più o meno tutti pensano alla più catastrofica: la possibilità che sistemi ben più capaci degli attuali diventino difficili da controllare.

L’opposizione all’intelligenza artificiale sta però evolvendo anche in una critica più profonda all’idea di vita umana che l’IA porta con sé. Lo spiega bene Becca Rothfeld in un interessante approfondimento per il New Yorker. Finora il dibattito ha avuto soprattutto due grandi filoni di pensiero. Da una parte quello che gli americani chiamano doomerism, cioè il timore che sistemi sempre più potenti possano sfuggire al controllo umano fino a diventare una minaccia esistenziale. Dall’altra il populismo IA, che legge l’intelligenza artificiale soprattutto come l’ennesimo progetto delle élite tecnologiche capace di concentrare ricchezza e potere nelle mani di pochi. Rothfeld individua però una terza sensibilità, che chiama umanesimo anti-IA. Ovvero riconoscere che attività come imparare, scrivere, creare, scegliere o prendersi cura degli altri possano avere un valore che non si esaurisce nel risultato prodotto, e che non scompare solo perché una macchina è in grado di svolgerle più rapidamente ed efficientemente.

Rothfeld arriva a questa conclusione raccontando il fuori scena della Pro-Human Assembly di Washington, l’evento che abbiamo raccontato qui su Linkiesta, organizzata dal Future of Life Institute. Sul palco c’erano Bernie Sanders e Steve Bannon, accomunati per l’occasione dalla denuncia degli oligarchi tecnologici; politici che chiedono maggiore regolamentazione; sindacalisti preoccupati per il lavoro; genitori che accusano i chatbot di aver avuto un ruolo nelle crisi dei propri figli. È una coalizione abbastanza larga da contenere quasi tutte le obiezioni contemporanee all’IA, dalla sinistra economica alla destra populista, fino alla critica religiosa della tecnologia.

Parlando con i partecipanti lontano dal palco, Rothfeld ha notato un disagio diverso dalla classica agenda politica. Il neuroscienziato Erik Hoel le ha parlato della libertà dei propri figli e del timore di un linguaggio separato dalla coscienza. Un artista lamentava la slopification della produzione culturale. Una giovane attivista diceva di avere la sensazione di aver «perso cellule cerebrali» da quando aveva cominciato a utilizzare l’IA. Filosofi e religiosi si interrogavano meno sul funzionamento dei modelli che sugli effetti della delega tecnologica sulla vita interiore.

Gran parte del dibattito sulla regolamentazione riguarda ciò che accade quando un sistema fallisce, mentre la critica umanista si occupa anche dei casi in cui il sistema fa esattamente quello che gli viene chiesto. Per esempio a scuola. Nel reportage del New Yorker, Lila Byock, fondatrice di Schools Beyond Screens, osserva che i sistemi di IA sono progettati per rendere più semplici i compiti e diminuire l’attrito, mentre una parte dell’apprendimento avviene proprio attraverso quello sforzo. Jenny Trinitapoli, sociologa dell’Università di Chicago, usa un argomento simile per spiegare le restrizioni all’IA introdotte in alcuni corsi: un seminario universitario non serve soltanto a produrre risposte corrette o crediti per la laurea, ma a costruire abitudini mentali.

Tre psicologi, Emily Zohar, Paul Bloom e Michael Inzlicht, hanno provato a sistematizzare la stessa intuizione in uno intervento pubblicato a febbraio su Communications Psychology. Secondo loro esistono delle desirable difficulties, difficoltà che rallentano l’esecuzione di un compito ma contribuiscono all’apprendimento, alla competenza e alla motivazione. Una tecnologia che elimina un’attività ripetitiva può liberare tempo e attenzione. La stessa tecnologia, se usata sistematicamente per evitare di costruire un ragionamento, rischia invece di saltare proprio il processo attraverso il quale quella capacità viene allenata. La questione è attualmente rilevante per bambini e studenti, ma non riguarda soltanto loro: riguarda qualunque attività nella quale il percorso abbia un valore diverso e ulteriore rispetto al prodotto finale. Rothfeld arriva allo stesso problema dal lato della scrittura. Il romanziere Jeff VanderMeer le dice che, anche immaginando un’intelligenza artificiale perfettamente regolata, etica e senza costi ambientali, non avrebbe comunque interesse a leggere un romanzo scritto da una macchina. Piuttosto preferirebbe leggere qualcosa che venga da «una mente particolare».

Questo però non significa che ogni intervento dell’IA cancelli automaticamente l’autorialità. In molti ambiti, del resto, il lavoro è già il risultato di strumenti, collaborazioni e competenze distribuite. Il filosofo Tiegue Vieira Rodrigues, riflettendo sull’autorialità assistita dall’IA, propone un Apt Curation Model. Tradotto: un autore può restare tale anche se non ha originato ogni frase, purché mantenga il controllo sull’impianto dell’opera, selezioni e verifichi il materiale e si assuma la responsabilità del risultato finale.

Ciò che l’IA rende meno chiaro è dove collocare il controllo quando lo strumento non si limita a eseguire un comando, ma propone argomenti e strutture che l’utente non aveva concepito in partenza. Una scuola può decidere che imparare a formulare un argomento sia una capacità da preservare anche se un chatbot può produrne uno convincente in pochi secondi. Un medico, un insegnante o un avvocato possono servirsi di sistemi automatici senza voler delegare loro il giudizio finale. Il confine, insomma, non passa necessariamente tra uso e non uso dell’IA, ma tra le attività che siamo disposti a delegare e quelle sulle quali vogliamo conservare il controllo.

L’umanesimo anti-IA non coincide con il rifiuto della tecnologia e non ha ancora un vero programma politico. Tiene insieme persone molto diverse attorno a un principio comune: non tutto ciò che può essere automatizzato deve necessariamente esserlo. Finora la politica dell’intelligenza artificiale si è concentrata soprattutto su come distribuirne i benefici e limitarne i danni. La nuova critica obbliga a decidere quali capacità vogliamo continuare a coltivare nelle persone anche quando una macchina può svolgere lo stesso compito, e quali attività consideriamo importanti non soltanto per ciò che realizzano, ma per ciò che producono in chi le compie.

L'articolo La nuova critica umanista all’intelligenza artificiale proviene da Linkiesta.it.