Auto-miglioramento ricorsivo: l'AI riscrive il proprio codice

Anthropic ha descritto uno scenario da fantascienza che potrebbe avverarsi in futuro. L’evoluzione continua dei modelli e le nuove capacità agentiche porteranno (prima o poi) all’auto-miglioramento ricorsivo, un processo in cui l’intelligenza artificiale riscriverà autonomamente il proprio codice. L’azienda californiana consiglia quindi di rallentare lo sviluppo per comprendere meglio i rischi.

Claude scrive l’80% del codice di Anthropic

Anthropic sottolinea che l’incremento della potenza di calcolo consentirà di migliorare le capacità dei sistemi AI. Ci saranno ovviamente importanti benefici per l’umanità, ma anche dei rischi. In un prossimo futuro, i sistemi AI saranno in grado di progettare e sviluppare i propri successori. Questo processo si chiama auto-apprendimento ricorsivo e darà origine alla AGI (intelligenza artificiale generale) o superintelligenza.

Anthropic ha ricordato l’evoluzione dell’AI in appena cinque anni. Nel 2021 è iniziata la scrittura del codice di Claude da parte di umani. A partire dal 2023, gli utenti hanno iniziato ad usare i chatbot per alcuni compiti, come la generazione di codice. Nel 2025 sono arrivati gli agenti AI che possono scrivere codice in maniera autonoma. Oggi gli agenti eseguono il codice e delegano il lavoro ad altri agenti.

In futuro, gli agenti potranno sviluppare e addestrare i modelli AI senza intervento umano. In pratica, le future versioni di Claude verranno continuamente migliorate da Claude stesso. Oggi i modelli AI possono completare in poche ore attività che richiedono settimane di lavoro umano. I benchmark confermano che le prestazioni dei modelli hanno quasi raggiunto il 100%.

Grazie all’aiuto di Claude, gli ingegneri di Anthropic pubblicano 8 volte più codice rispetto al 2024. A maggio 2026, oltre l’80% del codice di Anthropic è stato scritto da Claude. Gli ingegneri devono solo fornire le istruzioni iniziali e verificare i risultati.

Se questo trend proseguirà nei prossimi anni e non ci saranno vincoli in termini di capacità di calcolo, i sistemi AI utilizzeranno l’auto-miglioramento ricorsivo e progetteranno autonomamente i loro successori. Anthropic sottolinea che non può prevedere le conseguenze per gli umani, ma suggerisce di rallentare lo sviluppo dei modelli AI per comprendere i rischi.

Ciò è tuttavia possibile solo attraverso un coordinamento globale tra aziende e governi. È chiaro che si tratta di un’utopia. La concorrenza è molto agguerrita e alcuni paesi (Stati Uniti e Cina in particolare) cercano di velocizzare lo sviluppo dei sistemi AI, anche per eventuali usi militari.