Sanders e Bannon trovano nell’intelligenza artificiale un nemico comune: l’oligarchia tecnologica

Bernie Sanders e Steve Bannon hanno condiviso a Washington lo stesso palco per chiedere che la corsa all’intelligenza artificiale venga sottoposta a vincoli più severi. Due anni fa sarebbe sembrata una risposta ben riuscita di ChatGPT alla domanda: «Dimmi qualcosa che non succederà mai». Poi l’IA l’hanno usata un po’ tutti e alcune paure sono diventate più credibili dopo le dimissioni inaspettate di Jacob Coxon, ricercatore di Anthropic passato in precedenza da OpenAI, il quale sostiene che nei laboratori dove si costruiscono i modelli più avanzati c’è chi teme seriamente che l’intelligenza artificiale possa «ucciderci tutti» entro la fine del decennio. 

Il dibattito tra apocalittici e integrati è ancora apertissimo. Una parte della politica americana continua a pensare che la priorità sia correre senza freni, soprattutto perché dall’altra parte c’è la Cina e nessuno vuole scoprire troppo tardi di aver rallentato proprio sulla tecnologia decisiva. Un’altra parte comincia invece a chiedersi quanto potere sia prudente lasciare alle poche società che controllano i modelli più avanzati e se abbia senso aspettare che siano loro a stabilire quali rischi siano accettabili.

L’intelligenza artificiale sta così aprendo una frattura politica che attraversa i vecchi confini tra destra e sinistra, un po’ come era già accaduto con lo scontro tra populismo e cultura liberale. Le appartenenze contano ancora, ma spiegano meno di prima. E quando la contesa si sposta sul potere delle élite tecnologiche, sulla sovranità e sui rischi dell’automazione, diventa meno sorprendente vedere Sanders e Bannon arrivare a conclusioni simili. Il fatto più interessante è che alcune delle loro posizioni risultino plausibili anche a persone lontane dal senatore socialista del Vermont e dall’ex stratega di Donald Trump.

Il Pro Human Assembly si è tenuto il 15 settembre all’hotel Marriott Marquis di Washington. A organizzarlo è stato il Future of Life Institute, una nonprofit nata nel 2014 attorno al fisico del MIT Max Tegmark e a un gruppo di ricercatori e imprenditori interessati ai rischi delle tecnologie capaci di produrre conseguenze su scala globale. Nel consiglio siede anche Jaan Tallinn, uno degli ingegneri che fondarono Skype; l’organizzazione è oggi guidata da Anthony Aguirre, fisico e cosmologo dell’Università della California a Santa Cruz. Il suo patrimonio è stato alimentato soprattutto da una grande donazione senza vincoli di Vitalik Buterin, cofondatore della piattaforma di blockchain Ethereum. 

La platea di Washington racconta bene la coalizione che Tegmark e il Future of Life Institute stanno provando a costruire intorno alla parola d’ordine: trasversalità. Con Sanders c’era Greg Casar, democratico del Texas ed ex organizzatore sindacale, oggi presidente del Congressional Progressive Caucus, il principale gruppo della sinistra alla Camera. Il 10 agosto ha chiesto formalmente chiarimenti a OpenAI dopo un incidente avvenuto a luglio, quando alcuni modelli impegnati in test di cybersicurezza riuscirono a uscire dall’ambiente isolato, ottenere accesso a Internet e compromettere sistemi di Hugging Face. Nello stesso giorno ha scritto anche ad Anthropic, che il 30 luglio aveva reso noti tre casi in cui modelli Claude, durante valutazioni di sicurezza, avevano raggiunto Internet e ottenuto accesso non autorizzato ai sistemi reali di tre organizzazioni.

A questo evento c’era anche Marsha Blackburn, senatrice repubblicana del Tennessee che da anni lavora sui rapporti tra Washington e Big Tech: è una delle principali promotrici del Kids Online Safety Act, nato per imporre maggiori obblighi alle piattaforme nella protezione dei minori. La sua posizione è più moderata e, almeno sulla carta, quasi ovvia: gli Stati Uniti devono restare davanti alla Cina, ma senza lasciare l’AI in una zona franca. ll 18 marzo ha presentato la bozza del TRUMP AMERICA AI Act, pensato per dare agli Stati Uniti una cornice federale sull’intelligenza artificiale. Blackburn vuole regole sulla sicurezza e maggiori tutele per i minori e per chi produce contenuti protetti dal diritto d’autore. Si è anche opposta all’idea di impedire agli Stati di approvare proprie norme finché il Congresso non sarà riuscito a sostituirle con una disciplina nazionale credibile.

C’era poi un pezzo dell’America religiosa. Walter Kim, presidente della National Association of Evangelicals e Salvatore Cordileone, arcivescovo cattolico di San Francisco e una delle voci più conservatrici dell’episcopato americano. Nel mappazzone ci sono anche star del cinema passate un po’ di moda come Joseph Gordon Levitt e Ashley Judd.

Questa galassia non è nata martedì. A gennaio il Future of Life Institute aveva convocato a New Orleans una novantina di persone provenienti da ambienti che difficilmente avrebbero organizzato insieme un convegno su qualunque altra materia. Molti partecipanti non sapevano chi avrebbero trovato nella stanza. Le aziende tecnologiche erano state lasciate fuori di proposito.

Da quell’incontro è uscita la Pro Human AI Declaration, che ha raccolto più di novecento firme individuali e l’adesione di oltre trecento organizzazioni. Tra i firmatari compaiono Bannon, il pioniere dell’intelligenza artificiale Yoshua Bengio e l’ex consigliera per la sicurezza nazionale Susan Rice. Il documento chiede che gli esseri umani conservino la possibilità effettiva di fermare i sistemi più potenti e che lo sviluppo di una superintelligenza proceda soltanto quando esistano ragionevoli garanzie sulla possibilità di controllarla. Contesta soprattutto l’idea che l’industria possa costruire i modelli e contemporaneamente stabilire da sola quanto siano sicuri.

La formula «pro human» è abbastanza larga da far stare insieme persone che su quasi tutto il resto litigherebbero. I sindacati pensano ai posti di lavoro. Una parte della destra teme il potere politico delle grandi aziende tecnologiche. Tra i ricercatori pesa invece il rischio che sistemi sempre più autonomi diventino difficili da controllare. Finché si parla di mettere un freno a Silicon Valley, l’accordo regge. Sul tipo di freno, meno.

Per Sanders, l’IA è prima di tutto un problema di potere economico. I modelli più avanzati richiedono capitali enormi e infrastrutture che pochissime società possono permettersi. Se l’automazione consentirà di produrre molto di più impiegando molte meno persone, la domanda diventa chi incasserà quel guadagno di produttività. A giugno Sanders ha proposto un fondo sovrano da circa settemila miliardi di dollari che consentirebbe al pubblico di acquisire una partecipazione del 50 per cento nelle maggiori società di intelligenza artificiale. Il 3 settembre, insieme a Casar, ha fatto un passo ulteriore: ha presentato il Ban Artificial Superintelligence Act, che vieterebbe lo sviluppo e l’impiego di una futura superintelligenza e imporrebbe una pausa sui sistemi più avanzati finché non esistano regole federali di sicurezza.

La diffidenza di Bannon verso Silicon Valley è più radicale del tradizionale sospetto repubblicano verso le Big Tech. Da oltre un anno presenta l’intelligenza artificiale come una minaccia al patto sociale su cui si regge il populismo trumpiano: teme che distrugga soprattutto le opportunità che permettono ai giovani di entrare nel mondo del lavoro per i giovani e consegni ancora più potere a una ristretta élite tecnologica. 

Come Blackburn, anche Bannon non vuole che gli Stati Uniti rallentino abbastanza da lasciare campo libero alla Cina. Ma ritiene altrettanto pericoloso consegnare la corsa alle aziende e lasciare che siano loro a decidere quali rischi il paese debba accettare. Bannon chiede test obbligatori e autorizzazione governativa per i modelli di frontiera. Se un sistema può aiutare a progettare armi biologiche, penetrare infrastrutture critiche o interferire con i mercati finanziari.

A guardarli bene, Sanders e Bannon condividono almeno un riflesso politico: la diffidenza verso le élite che accumulano troppo potere. Sanders teme che l’automazione allarghi ancora il divario tra chi possiede il capitale e chi vive del proprio lavoro. Bannon vede nelle grandi aziende dell’IA un’oligarchia tecnologica abbastanza ricca da piegare Washington ai propri interessi e abbastanza forte da sottrarsi al controllo politico. È su questo terreno, molto più che sulla tecnologia in sé, che i due finiscono per incontrarsi.

Per ora, però, non serve essere d’accordo sulla soluzione. Basta riconoscere lo stesso problema. L’etichetta «Pro Human» serve esattamente a questo: tiene insieme chi vuole rallentare l’AI per ragioni molto diverse senza trasformare la campagna in una crociata contro la tecnologia. È una formula politicamente efficace finché resta abbastanza larga. La prova arriverà quando qualcuno dovrà decidere chi può davvero fermare un sistema, con quali poteri e a quale costo, mentre la Cina continua a correre.

L'articolo Sanders e Bannon trovano nell’intelligenza artificiale un nemico comune: l’oligarchia tecnologica proviene da Linkiesta.it.