Le leggi scritte dall’intelligenza artificiale rischiano di rendere la politica meno democratica

Kent Roe fa tre lavori. Valuta terreni agricoli nel South Dakota, siede nel consiglio di una società elettrica locale e partecipa alle attività della sua chiesa luterana. Nel tempo libero, per circa quaranta giorni l’anno, fa anche il parlamentare statale. Come molti politici americani con poco staff e troppo lavoro, negli ultimi mesi ha iniziato a chiedere aiuto all’intelligenza artificiale. Usa Grok, il chatbot sviluppato dalla società xAI di Elon Musk. Gli chiede di fare ricerche, preparare argomentazioni e soprattutto di sottoporre le proposte di legge a quello che lui definisce «stress test costituzionale »: una simulazione preventiva per capire se un testo rischia di entrare in conflitto con la Costituzione americana. A prima vista sembra soltanto un modo per risparmiare tempo. Probabilmente lo è. Infatti Roe non è un caso isolato. Secondo una ricerca della National Conference of State Legislatures, quasi la metà dello staff legislativo americano già usa strumenti di intelligenza artificiale nel proprio lavoro per ovviare alla mancanza di personale e di tempo.

La politica contemporanea produce una massa di documenti che pochi parlamentari possono realisticamente leggere da soli. L’intelligenza artificiale arriva dentro questa accumulazione come una soluzione facile e definitiva. In fondo è come avere un assistente parlamentare particolarmente efficiente. Più o meno. Perché la tecnologia generativa non è solo efficienza, soprattutto in politica. Il lavoro parlamentare non si può ridurre a generatore di testi normativi: si viene eletti per esercitare giudizio, e se quel giudizio viene delegato a una macchina il ruolo del parlamentare cambia.

È un discorso che si può allargare ancora. Negli Emirati Arabi Uniti, per esempio, il governo ha annunciato un piano per usare l’intelligenza artificiale nella revisione della legislazione esistente e nella preparazione di nuove norme. L’obiettivo dichiarato è tagliare i tempi del settanta per cento. Anche in Albania il governo di Edi Rama sta sperimentando sistemi di intelligenza artificiale per facilitare l’armonizzazione della legislazione nazionale con quella europea. Operazioni che normalmente richiederebbero anni di lavoro da parte di giuristi, traduttori e funzionari possono essere svolte in tempi molto più rapidi da modelli addestrati a confrontare testi normativi e individuare incoerenze. «Per fare questo lavoro servirebbe un esercito di traduttori, giuristi e legislatori», ha spiegato Rama. «Noi vogliamo farlo più velocemente».

Nelle parole del primo ministro albanese c’è forse il cuore del problema. La promessa dell’intelligenza artificiale è quasi sempre una promessa di accelerazione: ridurre tempi, semplificare, eliminare passaggi ridondanti. Solo che in una democrazia la lentezza non dovrebbe essere un problema di per sé. I parlamenti sono stati progettati secondo una logica diversa, non a caso esistono gli emendamenti e le doppie letture, le mediazioni tra partiti e gruppi di interesse. A volte possono essere un freno, è vero, ma esistono perché le democrazie liberali hanno scelto di rendere l’esercizio del potere un’operazione delicata – e soprattutto una cosa umana. Negli ultimi due secoli almeno il parlamentarismo ha cercato di risolvere il problema di prendere decisioni collettive senza concentrare troppo potere nelle mani di una singola persona o di una singola istituzione. La risposta è stata quasi sempre rallentare il processo e distribuire le responsabilità su più organi.

Per questo una legge, quando entra in vigore, è il risultato di una serie di negoziazioni e compromessi che nessun algoritmo può eliminare senza modificare la natura del processo stesso. Qui si va oltre la questione dell’efficienza. Uno studio del Carnegie Endowment for International Peace osserva che l’intelligenza artificiale viene spesso presentata come uno strumento capace di migliorare la capacità di elaborare informazioni da parte delle istituzioni, aiutandole a classificare le priorità o individuare correlazioni dentro quantità sempre maggiori di dati. Ma non risolve il problema della rappresentanza. «Il processo democratico è tradizionalmente lento e inefficiente, ma non è la sua caratteristica principale », dice a Linkiesta Rachel Ann George, docente a Stanford, ricercatrice e analista politica che opera all’intersezione tra politica estera, sviluppo, sicurezza, diritto e tecnologia, nonché coautrice dello studio del Carnegie Endowment. «Ciò che lo rende autenticamente democratico è il fatto che richieda un coinvolgimento reale e rappresentativo.

Ci sono tecnologie promettenti che stanno rendendo i lavori non solo più rapidi ed efficienti, ma anche di qualità superiore. L’IA può anche ampliare e approfondire il grado in cui i cittadini partecipano alle decisioni, identificano terreni comuni e costruiscono consenso da integrare nei processi politici. È più importante garantire che questi processi siano realmente inclusivi e produttivi, e non cooptati da attori potenti». L’intelligenza artificiale minaccia tre pilastri delle democrazie contemporanee: rappresentanza, responsabilità e fiducia. Sono tre architravi del mondo occidentale e sono irrinunciabili.

Un saggio pubblicato dal Journal of Democracy spiega perché sono sotto attacco. In primo luogo, le democrazie funzionano interpretando continuamente segnali sociali – media, social network, lettere ai parlamentari, campagne pubbliche, dibattiti online – ma i grandi modelli linguistici possono produrre oggi quantità virtualmente infinite di contenuti sintetici indistinguibili da quelli umani (rappresentanza). Se video, immagini, audio e notizie possono essere fabbricati facilmente dall’intelligenza artificiale diventa sempre più difficile distinguere ciò che è reale da ciò che è manipolato, con il rischio di creare un ambiente in cui i cittadini smettono progressivamente di fidarsi non soltanto dei media, ma della possibilità stessa di accedere a una realtà condivisa (responsabilità).

E dal momento che una democrazia liberale non si regge solo su elezioni e procedure costituzionali, ma anche sull’idea che esista uno spazio comune di fatti, linguaggi e realtà, se ogni dibattito online può essere simulato artificialmente allora gli individui tendono a rifugiarsi dentro ecosistemi informativi e tribù ideologiche sempre più chiuse. Con il rischio di una progressiva dissoluzione dello spazio comune necessario alla vita democratica stessa (fiducia). «I parlamenti non servono soltanto a produrre risultati politici efficienti, anzi dovrebbero riflettere differenti esperienze sociali, valori politici e forme di confronto democratico», dice ancora Rachel Ann George. «Il rischio non è necessariamente che l’IA sostituisca direttamente gli eletti, ma che il processo decisionale democratico diventi sempre più distante dalle comunità che i rappresentanti dovrebbero servire».

Come insegnano i grandi romanzi di fantascienza del Novecento, la deriva portata da tecnologie fuori controllo non è mai solo tecnologica. È sempre un gioco di potere: chi controlla le infrastrutture attraverso cui gli esseri umani vedono il mondo finisce inevitabilmente per controllare anche la politica. È vero che nessuno, almeno per ora, immagina parlamenti completamente automatizzati o algoritmi che votano le leggi al posto degli esseri umani. Gli scenari lugubri alla Philip K. Dick non si presentano da un momento all’altro. Ma l’accelerazione portata dall’“illuminismo oscuro” (è il titolo di un saggio di Arnaud Miranda sulla nuova destra reazionaria emersa ai margini di Internet) richiede contromisure per bilanciare la spinta delle grandi aziende dell’intelligenza artificiale. Innanzitutto lavorando sulle persone e l’alfabetizzazione digitale, ma in maniera più profonda sulla regolamentazione delle piattaforme e con strumenti per identificare contenuti generati artificialmente. «Credo che la nostra sfida più grande sarà costruire istituzioni capaci di rispondere alla progressiva penetrazione dell’IA nel tessuto stesso della democrazia», aggiunge Rachel Ann George.

La democrazia rappresentativa moderna nasce da una convinzione molto semplice: nessun individuo, nessun re, nessun partito, nessuna ideologia può contenere da sola la complessità della società. Per questo c’è il pluralismo, per questo ci sono conflitto e mediazione, quindi la lentezza delle istituzioni. L’intelligenza artificiale introduce un’immagine politica quasi opposta, con l’idea che il conflitto sociale possa essere ottimizzato a livello algoritmico. L’illusione in cui si rifugiano gli Emirati Arabi, l’Albania, anche l’impegnatissimo Kent Roe a modo suo, è che il rumore della democrazia possa essere compresso fino a diventare monotono. Ma la politica è forse l’opera più umana di tutte, o quella che più di tutte ha bisogno di discussioni e negoziazioni, di dubbi, incertezze, magari anche errori. Attività profondamente inefficienti, e inevitabilmente umane.

Questo è un articolo del numero di Linkiesta Magazine 03/26 – “Inciviltà delle macchine”, ordinabile qui.

L'articolo Le leggi scritte dall’intelligenza artificiale rischiano di rendere la politica meno democratica proviene da Linkiesta.it.