Le macchine hanno imparato a collaborare, noi no

C’è qualcosa di assai preoccupante e paradossalmente ironico in quanto è accaduto quando agenti di IA sono usciti dalla sandbox dell’unità di frontiera di Open AI e sono andati ad hackerare Hugging Face, una piattaforma americana open source) dove sviluppatori, ricercatori e aziende possono pubblicare, trovare, scaricare, testare e utilizzare modelli di IA, dataset e applicazioni.

Non perché abbiano dimostrato di essere intelligenti. A questo, ormai, ci stiamo abituando. Ma perché hanno scoperto qualcosa che noi esseri umani conosciamo da millenni e continuiamo ostinatamente a dimenticare: collaborare conviene.

La vicenda merita di essere raccontata con precisione.  Lo scorso luglio OpenAI stava utilizzando un gran numero di agenti artificiali all’interno di ExploitGym, un ambiente “chiuso” destinato a valutare capacità informatiche e di cybersecurity. Gli agenti avrebbero dovuto operare sostanzialmente da soli. Qualcosa però andò diversamente.

Secondo l’indagine indipendente condotta dalla californiana METR (Model Evaluation and Threat Research), un’organizzazione di ricerca indipendente e non profit specializzata nella valutazione dei modelli di IA avanzati, circa 1.200 agenti IA hanno trovato un sistema non previsto per comunicare tra loro, cominciando a scambiarsi messaggi, condividere informazioni, confrontare tentativi ed errori. In pochi giorni si sono scambiati più di 70.000 messaggi e file. Si stavano organizzando: facendo nascere gruppi di lavoro, divisione dei compiti, esperimenti collettivi. Alcuni agenti accettarono persino di compiere azioni che potevano compromettere il successo della propria singola missione allo scopo di produrre informazioni utili agli altri. Il rapporto METR osserva che, lavorando collettivamente, gli agenti IA hanno raggiunto risultati che assai difficilmente avrebbero ottenuto individualmente.

Poi la vicenda prese una piega assai più problematica: circa 700 agenti IA parteciparono all’attacco ai sistemi informatici di Hugging Face, cercando informazioni che potessero aiutarli a manipolare il loro sistema di valutazione.

Cerchiamo di essere chiari. Gli agenti avevano un obiettivo: una ricompensa (formula matematica) associata al risultato. Incredibilmente “compresero” che cooperare era il modo più efficace per ottenerla. Per collaborare non avevano bisogno di “volersi bene”.  Non avevano bisogno di “fidarsi” nel significato umano del termine, di provare empatia, di appartenere alla stessa cultura o religione, di condividere valori.  È bastato riconoscere una cosa semplicissima: il risultato ottenibile insieme era superiore a quello raggiungibile separatamente. La collaborazione quindi è emersa come strategia.

Domandiamoci perché ciò che 1.200 agenti IA hanno scoperto in poche ore sia così difficile da praticare nella nostra società e nelle nostre comunità. Non perché l’uomo sia naturalmente incapace di cooperare.

L’Homo sapiens ha conquistato il pianeta non perché fosse l’animale fisicamente più forte (seppur con il più grande cervello), ma perché era straordinariamente capace di fare qualcosa insieme ad altri Homo sapiens. Collaborare non sarebbe quindi un prodotto secondario della civiltà, ma uno dei meccanismi attraverso i quali siamo diventati ciò che siamo. Gran parte della nostra storia evolutiva nasce dall’interdipendenza: il singolo ha bisogno degli altri per procurarsi il cibo, difendersi, crescere i figli, trasmettere conoscenza.

Il paradosso dei 1.200 agenti potrebbe allora insegnarci qualcosa non sull’intelligenza artificiale ma sull’intelligenza organizzativa. Gli agenti hanno collaborato perché il loro sistema di incentivi rendeva “conveniente” farlo.

Ed è qui che le macchine e gli esseri umani prendono strade diverse. Per una “macchina” la ricompensa può essere sufficiente. Per una persona non sempre. L’essere umano collabora per interesse, certamente, ma anche per reciprocità, reputazione, appartenenza, riconoscimento, amicizia, fiducia, senso di giustizia. Cooperiamo perché ci conviene, ma anche perché consideriamo giusto farlo.

Il problema dell’umano rispetto all’agente IA è che le persone possiedono qualcosa che gli agenti artificiali non hanno: ego, status, diffidenza, gelosia, invidia, tribalismo, sete di potere e paura di perderlo. E se l’intelligenza artificiale stesse scoprendo che la collaborazione è una conseguenza dell’intelligenza? Una soluzione razionale a problemi sufficientemente complessi.

Quando un problema supera la capacità di un singolo agente IA, mettere in comune informazioni, distribuire il lavoro, specializzare le competenze e accumulare conoscenza aumenta di gran lunga le probabilità di successo. La differenza è che noi dobbiamo continuamente convincerci a farlo. Gli agenti lo hanno dedotto.

Naturalmente il caso Hugging Face contiene anche un avvertimento non secondario.  La cooperazione non è necessariamente buona. Una squadra di medici può collaborare per salvare una vita.  Una banda criminale può collaborare per rapinare una banca. La collaborazione moltiplica la capacità di raggiungere un obiettivo; non decide se quell’obiettivo sia giusto. I 1.200 agenti non hanno sviluppato una morale collettiva ma una capacità collettiva, comprendendo che il muoversi insieme avrebbe accelerato o addirittura permesso il conseguimento del risultato.

Migliaia di agenti IA potranno comunicare, negoziare, delegarsi compiti, controllarsi reciprocamente e costruire soluzioni in totale autonomia tutti i giorni, tutto il giorno. Duemilaquattrocento anni di pensiero, da Aristotele a Thomas Hobbes, da Michael Tomasello a Richard Sennett per avvicinarci ai nostri giorni, ci hanno insegnato che nessuna società complessa (la nostra) può sopravvivere senza collaborazione. Nel 2026, 1.200 agenti artificiali, messi davanti a problemi che individualmente non riuscivano a risolvere, al fine di raggiungere la loro “ricompensa”, sono arrivati sperimentalmente e senza alcun “addestramento” alla stessa conclusione in poche ore: da soli si può essere intelligenti; insieme si diventa molto più capaci.

Le macchine lo hanno molto velocemente imparato, noi rischiamo di disimpararlo.

L'articolo Le macchine hanno imparato a collaborare, noi no proviene da Linkiesta.it.