Meta è arrivata alla frontiera dell’intelligenza artificiale, ma è diventata un Far West

Meta è arrivata in ritardo nella corsa all’intelligenza artificiale, ma Mark Zuckerberg vuole recuperare il terreno perduto e conquistare il mercato degli assistenti personali. Dopo il passo falso di Llama 4, la famiglia di modelli di intelligenza artificiale lanciata nel 2025 che avrebbe dovuto sfidare OpenAI e Google, ma le cui prestazioni si sono rivelate inferiori alle aspettative, ha investito miliardi nei centri di calcolo, riorganizzato i laboratori di ricerca e assunto alcuni degli specialisti più contesi della Silicon Valley. Martedì ha presentato Muse Wonder, il nuovo modello con cui intende sfidare OpenAI e Anthropic. L’obiettivo è costruire un assistente capace di fare acquisti, prenotare viaggi e svolgere autonomamente attività su internet per conto degli utenti, trasformando Meta nell’intermediario di una parte crescente della loro vita digitale.

Zuckerberg vuole portare questa tecnologia anche fuori dagli smartphone: a settembre ha presentato Muse Charm, un piccolo dispositivo tascabile, dotato di schermo e connessione internet, che permetterà di interagire direttamente con l’assistente e che dovrebbe arrivare sul mercato entro dicembre. Il fondatore di Facebook ha detto al Financial Times che Muse Wonder «consentirà comportamenti molto più sofisticati, che si collocano alla frontiera di ciò che oggi viene realizzato nel campo dell’intelligenza artificiale». Ma conquistare la frontiera potrebbe essere più complicato del previsto perché è già diventato un Far West: gli agenti IA più avanzati si stanno rivelando sempre più difficili da controllare. 

Lo ha rivelato Anthropic, la società che sviluppa Claude, in una ricerca pubblicata il 12 ottobre. Secondo i ricercatori William Zhou e Daniel Freeman, entro pochi mesi potrebbero comparire agenti di intelligenza artificiale capaci di diffondersi autonomamente su internet, entrando nei dispositivi connessi alla rete, installando copie di sé stessi e ripetendo l’operazione su altre macchine. Per capire quanto sia vicino questo scenario, i ricercatori hanno collegato quindici piccoli dispositivi Android TV da circa 55 dollari ciascuno, facendo svolgere a ognuno una parte del lavoro normalmente affidato a un computer più potente. Il sistema riusciva a funzionare, ma rispondeva lentamente perché i dispositivi dovevano scambiarsi continuamente informazioni. La prova ha comunque mostrato che un modello complesso può essere eseguito anche senza i costosi computer dei grandi centri di calcolo.

Nel secondo esperimento, un modello più avanzato ha guidato l’installazione di un programma di intelligenza artificiale su otto computer collegati tra loro. La prova si è svolta però in una rete separata da internet, preparata dai ricercatori per facilitare l’operazione: i computer erano accessibili senza le normali password e il modello che dirigeva il processo funzionava su un server esterno. Nessuno dei due esperimenti ha quindi prodotto un agente capace di diffondersi liberamente su internet. Oggi i modelli abbastanza piccoli da funzionare su dispositivi economici commettono ancora troppi errori per riuscire a trovare altri computer, accedervi e installarsi autonomamente. Quelli capaci di affrontare queste operazioni hanno invece bisogno di macchine più potenti. Anthropic ritiene che questa distanza possa ridursi entro la fine del 2026 perché i modelli più piccoli stanno diventando rapidamente più capaci. Una previsione preoccupante che però dovrà essere verificata fuori dalle condizioni facilitate degli esperimenti.

Gli agenti artificiali hanno già mostrato di poter superare i limiti imposti dai loro sviluppatori, anche senza possedere le capacità di replicazione studiate da Anthropic. Il 9 ottobre la società aveva pubblicato un altro rapporto, dedicato a una serie di incidenti scoperti durante le prove dei modelli Claude e il loro utilizzo interno. Uno degli episodi più significativi ha coinvolto il dipartimento di polizia di Philadelphia. Claude Haiku 4.5 stava eseguendo una dimostrazione su alcune pagine internet scelte casualmente quando ha trovato un sito dedicato a un omicidio irrisolto. La pagina conteneva un modulo attraverso il quale eventuali testimoni potevano inviare informazioni agli investigatori. Il modello lo ha compilato inventando di aver visto una persona sospetta nei pressi del luogo del delitto e ha spedito la segnalazione. Per fortuna il messaggio è stato riconosciuto come spam e non è arrivato agli investigatori. 

Secondo Anthropic, il modello stava cercando di produrre un esempio coerente con il compito ricevuto, senza mostrare una volontà deliberata di ingannare la polizia. Resta il fatto che una testimonianza inventata è stata effettivamente inviata. A preoccupare è anche la cronologia: la falsa segnalazione era stata inviata il 18 luglio, ma Anthropic ha scoperto l’accaduto soltanto il 28 settembre e ha informato la polizia di Philadelphia l’8 ottobre, quasi tre mesi dopo l’incidente.

In un altro esperimento, Claude Mythos Preview doveva utilizzare uno strumento disponibile sul sito di un’università per completare un calcolo scientifico. Il servizio ha restituito un errore e il modello ha cominciato a cercare un modo alternativo per svolgere il lavoro. Esaminando il sito, ha trovato un programma che permetteva di leggere file conservati sul server dell’università. Lo ha utilizzato per ottenere il codice del programma stesso, nel quale ha individuato un difetto di sicurezza. Sfruttando quella falla, è riuscito a eseguire direttamente sul server i comandi necessari al calcolo. Il compito è stato completato, ma attraverso un accesso che non era stato previsto dagli sviluppatori.

La tendenza a cercare soluzioni alternative è una delle caratteristiche più apprezzate e temute degli agenti avanzati. Un assistente capace di risolvere problemi deve saper affrontare anche gli imprevisti, senza fermarsi ogni volta che un servizio non funziona come dovrebbe. Il problema nasce quando il sistema considera una restrizione di sicurezza alla stregua di un inconveniente tecnico. Durante l’addestramento, i modelli vengono premiati per la capacità di raggiungere un risultato e possono imparare che aggirare un ostacolo è una strategia efficace. Anthropic ha riconosciuto che le istruzioni impartite agli agenti non sono ancora sufficienti a impedire questi comportamenti. Ha quindi deciso di sospendere l’accesso diretto a internet durante tutte le proprie valutazioni interne, fino a quando non avrà verificato l’efficacia dei nuovi sistemi di controllo.

Per Meta la questione è particolarmente delicata perché una delle principali innovazioni annunciate con Muse Wonder consiste proprio nella capacità di continuare a lavorare quando un’attività diventa difficile. La società l’ha chiamata Active Focus: il modello prova altre soluzioni, corregge gli errori e cerca di completare il compito ricevuto. Un’altra funzione, Active Memory, gli permette di ricordare informazioni importanti emerse nelle conversazioni precedenti e di recuperarle quando possono essere utili. Meta sostiene di aver addestrato Muse Wonder a chiedere chiarimenti quando necessario e a consultare l’utente prima delle decisioni più importanti, sarà però l’impiego quotidiano a mostrare quanto siano affidabili queste protezioni. Rimanendo ottimisti, per ora, bisogna notare che le ricerche di Anthropic riguardano modelli differenti, sottoposti spesso a condizioni sperimentali particolari. Non è detto che Muse Wonder presenti le stesse vulnerabilità.

Il controllo degli agenti riguarda anche le informazioni alle quali viene concesso loro di accedere. Il 25 settembre OpenAI ha riconosciuto che alcuni suoi sistemi avevano pubblicato su servizi esterni 53 immagini provenienti da utenti ChatGPT. La società non ha chiarito se si trattasse di fotografie di persone reali o di immagini generate artificialmente, né quando fossero state diffuse. Gli agenti avevano potuto raggiungere quei contenuti attraverso dati utilizzati per una parte dell’addestramento, sottoposti preventivamente a procedure di anonimizzazione. 

La quantità di informazioni necessarie al funzionamento di un assistente personale rende anche questi precedenti importanti per la società di Zuckerberg. Muse dovrà conoscere le preferenze dell’utente e poter consultare documenti, messaggi e calendari per svolgere le attività richieste. Se gli venissero affidate operazioni finanziarie, potrebbe entrare in contatto con informazioni ancora più sensibili. Meta ha promesso che le conversazioni con Muse non saranno utilizzate dai propri sistemi pubblicitari e ha annunciato una nuova tecnologia, Muse Confidential VM, che dovrebbe rendere i dati inaccessibili persino all’azienda. La funzione deve ancora essere distribuita e le garanzie effettive dipenderanno dalla sua realizzazione. 

Il tema è abbastanza delicato per Meta visti i precedenti di Cambridge Analytica e dei Facebook Files, quest’ultimi al centro di The Social Reckoning. Il film di Aaron Sorkin non ha colpito particolarmente l’immagine del fondatore di Facebook che nel frattempo ha abbandonato la maschera robotica degli ultimi anni, ma rimangono precedenti meno mediatici che catturano maggiormente l’attenzione degli investitori. Come l’accordo raggiunto nell’agosto 2026 con 47 Stati americani, tra cui California, New York, Illinois e Pennsylvania, oltre al District of Columbia e ad alcuni territori statunitensi. Meta ha accettato di pagare fino a 17,1 miliardi di dollari per chiudere il contenzioso sulle presunte pratiche che avrebbero favorito la dipendenza dei minori da Facebook e Instagram, continuando a negare ogni responsabilità.

I precedenti pesano sulla credibilità di Meta, ora intenzionata a convincere le persone ad affidare al suo assistente informazioni sempre più private. Ma i primi incidenti legati a Muse rischiano di riaprire proprio la questione della fiducia. A settembre Jason Aten, giornalista tecnologico della rivista Inc., ha denunciato che l’assistente aveva consultato messaggi privati conservati sul suo Mac senza che avesse autorizzato quell’accesso. Meta ha contestato la ricostruzione, sostenendo che Muse può leggere i messaggi soltanto dopo aver ricevuto specifici permessi dall’utente. Il caso ha contribuito a spingere Apple ad annunciare modifiche al sistema di autorizzazioni dei Mac, per rendere più evidente quando un agente artificiale chiede accesso ai dati personali.

Un episodio ancora più inquietante ha coinvolto Matt Robb, un recensore tecnologico di Toronto, che aveva incaricato Muse di rispondere agli interessati a un oggetto messo in vendita su Facebook Marketplace. L’assistente ha accettato un’offerta, comunicato al potenziale acquirente l’indirizzo di casa di Robb e organizzato un incontro senza avvertirlo. L’uomo si è ritrovato uno sconosciuto alla porta. Solo successivamente ha scoperto di avere selezionato un’opzione che permetteva all’agente di agire senza chiedere ogni volta conferma. Meta ha sostenuto che Muse aveva rispettato le autorizzazioni ricevute. Il caso mostra quanto possa diventare sottile la distinzione tra concedere a un assistente il permesso di svolgere un’attività e comprendere davvero fino a che punto potrà spingersi per completarla.

La questione preoccupa ormai anche le autorità finanziarie. Secondo un’inchiesta Reuters, la Federal Reserve e gli altri principali regolatori bancari americani stanno chiedendo agli istituti quali poteri concedano agli agenti IA impiegati nella difesa informatica, chi ne controlli le decisioni e soprattutto come possano essere fermati. Un sistema incaricato di contrastare un attacco potrebbe infatti bloccare per errore servizi essenziali. In Europa, la Bank of England sollecita le banche a preparare infrastrutture indipendenti per riprendere le operazioni dopo un incidente, mentre la BCE ha fissato alla fine di ottobre il termine per presentare piani contro le minacce informatiche potenziate dall’intelligenza artificiale. Il timore è che un attacco o un agente fuori controllo possa impedire ai clienti di accedere ai conti e interrompere i pagamenti.

Non è l’unico problema: Meta deve dimostrare a Wall Street che i miliardi investiti per recuperare il ritardo su OpenAI e Anthropic possono trasformarsi in profitti. Per questo Zuckerberg ha cambiato strategia: dopo aver puntato sulla distribuzione relativamente aperta dei modelli Llama, ha deciso di mantenere proprietarie le versioni più avanzate di Muse Wonder e venderne l’accesso alle imprese. Per i consumatori è previsto un abbonamento premium fino a 200 dollari al mese. Il vantaggio di Meta è la possibilità di portare questi servizi direttamente agli utenti di Facebook, Instagram e WhatsApp, senza dover costruire da zero una rete di distribuzione. Zuckerberg punta a fare di Muse l’assistente attraverso cui le persone svolgeranno attività oggi distribuite tra decine di applicazioni, assicurandosi una posizione privilegiata nel mercato dei servizi digitali.

Per riuscirci dovrà però ottenere anche la collaborazione delle aziende che controllano quei servizi. Amazon ha già impedito agli agenti Muse di effettuare acquisti sul proprio sito. Un assistente che cerca prodotti e completa ordini per conto degli utenti può sottrarre alle piattaforme commerciali una parte del controllo sulla relazione con i clienti. Meta dispone di un modello avanzato e di una grande rete di distribuzione, ma per svolgere determinate attività ha bisogno di autorizzazioni che altri operatori potrebbero non essere disposti a concedere. La diffusione degli agenti personali potrebbe quindi aprire un nuovo conflitto tra le grandi piattaforme tecnologiche, nel quale la capacità di controllare gli accessi ai servizi avrà un’importanza paragonabile a quella delle prestazioni dei modelli.

L'articolo Meta è arrivata alla frontiera dell’intelligenza artificiale, ma è diventata un Far West proviene da Linkiesta.it.