L’AGI corre, DeepMind vuole nuove regole prima che sia tardi

L’intelligenza artificiale sta entrando in una nuova fase, che in questi giorni alimenta il dibattito a 360 gradi. Governi e aziende si stanno esprimendo e non tutti convergono sul da farsi, ma è un dato di fatto che i modelli diventano più capaci e grazie alla più recenti capacità agentiche, sono in grado di agire in sequenza su più compiti, prendendosi libertà che non vengono ben viste, soprattutto sul lungo termine. Il dibattito sull’AGI, l’intelligenza artificiale generale capace in teoria di affrontare un ampio ventaglio di compiti cognitivi, è una parte dell'equazione.

Il problema è semplice da raccontare, molto meno da risolvere, perché se sistemi sempre più potenti diventano anche meno interpretabili, come possiamo verificare cosa stanno facendo prima di affidarli a compiti delicati? E soprattutto, chi dovrebbe stabilire quando un modello è abbastanza sicuro da essere distribuito?

Da queste domande ha preso vita il DeepMind Institute, iniziativa guidata tra gli altri da Shane Legg, James Manyika e Demis Hassabis. Si propone di mettere a confronto idee differenti sull’AGI, comprese quelle che potrebbero entrare in contrasto con le strategie delle stesse Google e Google DeepMind, e uno dei temi più interessanti riguarda la trasparenza del ragionamento. I ricercatori Rohin Shah e Anca Dragan propongono di prestare attenzione alla quantità di elaborazione che un modello può eseguire senza produrre passaggi comprensibili all’uomo. In sostanza si dice che, maggiore è questa zona nascosta, più complicato può diventare controllare il comportamento del sistema.

CLICCA QUI PER CONTINUARE A LEGGERE