Il mito dell’IA nasconde il lavoro umano che fa funzionare gli algoritmi

Scrivere una storia dell’IA nella congiuntura presente significa fare i conti con un vasto costrutto ideologico: all’interno delle aziende della Silicon Valley e delle università hi-tech, la propaganda circa l’onnipotenza dell’IA è la norma, e talvolta ripete addirittura il mito di macchine che acquisiscono “intelligenza superumana” e “autocoscienza”. Questo elemento di folklore è ben esemplificato dalle narrazioni apocalittiche in stile Terminator, in cui i sistemi di IA raggiungerebbero la “singolarità tecnologica”, ponendo un “rischio esistenziale” alla sopravvivenza della specie umana su questo pianeta, come professato tra gli altri dal futurologo Nick Bostrom.

Le mitologie dell’autonomia tecnologica e dell’intelligenza-macchina non sono nulla di nuovo: sin dall’era industriale, sono servite a mistificare il ruolo dei lavoratori e delle classi subalterne. Come ha evidenziato Schaffer descrivendo il culto degli automi all’epoca di Babbage, «affinché le macchine sembrassero intelligenti, era necessario che le fonti del loro potere, la forza-lavoro che le circondava e le azionava, fossero rese invisibili». […] 

Diversi gruppi sociali e configurazioni di potere hanno dato forma alle tecnologie informatiche e all’IA nel secolo scorso. Invece che “sulle spalle dei giganti”, come si suol dire, si potrebbe affermare che i primi paradigmi del pensiero macchinico e la più recente intelligenza-macchina siano stati sviluppati, in tempi e modi diversi, “sulle spalle” di mercanti, soldati, comandanti, burocrati, spie, industriali, manager, e lavoratori. In tutte queste genealogie, l’automazione del lavoro è stato il fattore chiave, ma questo aspetto è spesso trascurato da una storiografia della tecnologia che predilige la prospettiva di una scienza “dall’alto”. 

Un indirizzo comune, per esempio, collega piuttosto deterministicamente il sorgere della cibernetica, della computazione digitale e dell’IA agli abbondanti finanziamenti da parte dell’esercito statunitense durante la Seconda guerra mondiale e nel periodo della Guerra fredda. Eppure, studi recenti hanno chiarito quanto l’arcipelago di questa “razionalità di guerra” fosse piuttosto instabile e coltivasse paradigmi, quali la teoria dei giochi e la programmazione lineare, che erano cruciali anche nella modellazione della corsa agli armamenti e della logistica militare. 

L’influenza degli apparati di stato sulle tecnologie informatiche, a ogni modo, ha avuto inizio ben prima dell’accelerazione militare della Seconda guerra mondiale: l’automazione del recupero delle informazioni e dell’analisi statistica risale al bisogno di meccanizzare l’amministrazione pubblica e i compiti del governo, almeno a partire dal censimento realizzato negli Stati Uniti nel 1890, che introdusse la macchina Hollerith per processare schede perforate. La “macchina di governo” ha anticipato il sorgere dei grossi centri dati dell’era digitale, che hanno notoriamente rappresentato il business non solo di aziende IT, ma anche di agenzie di intelligence, come è stato dettagliatamente ricostruito dal matematico Chris Wiggins e dallo storico Matthew L. Jones. 

In breve, per più di cento anni è sempre stata l’accumulazione di Big Data sulla società e sui suoi comportamenti a sollecitare lo sviluppo delle tecnologie informatiche, dal tabulatore di Hollerith allo stesso Machine Learning. Riassumendo, l’IA rappresenta la continuazione delle tecniche di analisi dei dati supportate in prima istanza dagli uffici statali, segretamente coltivate dalle agenzie di intelligence, e, da ultimo, consolidate da parte delle aziende it in un mercato planetario di sorveglianza e previsione. Questa interpretazione, ad ogni modo, è ancora una volta una storia “dall’alto”, che si focalizza esclusivamente sulle tecniche di controllo, e raramente sui soggetti su cui il controllo è esercitato. I bersagli di questo potere sono solitamente descritti non come attori, di per sé in possesso di autonomia e “intelligenza”, bensì come soggetti passivi di misurazione e controllo. 

Questo è un problema della teoria critica in generale, e degli studi critici sull’IA in particolare: sebbene questi studi analizzino l’impatto dell’IA sulla società, spesso trascurano il ruolo collettivo della conoscenza e del lavoro, in quanto origine della stessa “intelligenza” che l’IA finisce per estrarre, codificare e mercificare. Inoltre, questi studi di rado riescono a vedere il contributo di forme e forze sociali agli stadi chiave dell’invenzione e dello sviluppo tecnologici. Un intervento veramente critico dovrebbe ricusare questa posizione egemonica dell’IA quale unico “maestro” dell’intelligenza collettiva. 

Una volta, Antonio Gramsci affermò, contro le gerarchie dell’educazione, che «tutti gli uomini sono intellettuali»: in maniera simile, questo libro punta alla riscoperta della centralità dell’intelligenza sociale che dà forma e potere all’IA, e, con una tesi più radicale, sostiene anche che l’intelligenza sociale determina dall’interno lo stesso design degli algoritmi dell’IA.  […] Laddove il costruttivismo sociale generalmente enfatizza l’influenza di fattori esterni sulla scienza e la tecnologia, l’epistemologia storica è interessata allo sviluppo dialettico di prassi sociale, strumenti di lavoro, e astrazioni scientifiche all’interno di dinamiche economiche globali.

Tratto da “Nell’occhio dell’algoritmo. Storia e critica dell’intelligenza artificiale”, Matteo Pasquinelli, Carocci editore, pp. 268, 27,55 euro

L'articolo Il mito dell’IA nasconde il lavoro umano che fa funzionare gli algoritmi proviene da Linkiesta.it.