Il rischioso auto-miglioramento ricorsivo dell'AI. Anthropic invoca un freno, ma corre

Nel maggio 2026, oltre l'80% del codice implementato da Anthropic nei suoi strumenti è stato scritto da Claude. Ad affermarlo non è un osservatorio esterno, ma la stessa società dei fratelli Amodei, in una lunga pubblicazione intitolata Quando l'IA si costruisce da sola e che tratta il delicato tema dell'auto-miglioramento ricorsivo dell'intelligenza artificiale.

Siamo vicini al punto in cui questi sistemi non avranno più bisogno dell'intervento umano per evolvere e questo potrebbe rappresentare una minaccia. Un monito che arriva nel periodo in cui i big del settore iniziano a parlare del concetto di singolarità come di qualcosa che non è più da relegare alla letteratura e alla cinematografia sci-fi, ma un'ipotesi concreta (lo ha fatto anche Google al recente I/O). E allora servono tutele, per evitare il peggio e scongiurare il rischio di dover fare i conti con scenari apocalittici.

Anthropic propone di rallentare lo sviluppo dell'AI o addirittura di interromperlo, finché necessario, per far sì che il mondo sia pronto all'impatto di una tecnologia che potrebbe progredire in direzioni non ancora del tutto previste. Un po' come si è cercato di gestire, a un certo punto, la minaccia del nucleare. Lo fa però con la consapevolezza che sebbene non sia impossibile, risulterebbe molto difficile.

CLICCA QUI PER CONTINUARE A LEGGERE