Meta ferma il sistema che monitorava i dipendenti per migliorare i modelli AI

Meta ha sospeso il discusso programma interno pensato per raccogliere dati dall'attività dei dipendenti sui computer aziendali, dopo le preoccupazioni emerse sul fronte della privacy e una protesta cresciuta rapidamente dentro l'azienda. Il sistema, chiamato Model Capability Initiative, avrebbe monitorato tasti premuti, clic del mouse e contenuti visualizzati sugli schermi, con l'obiettivo di usare quelle informazioni per migliorare l'addestramento dei modelli AI.

La decisione è arrivata dopo una petizione firmata da oltre 1.600 lavoratori di Meta, che hanno chiesto alla società di non raccogliere dati legati all'uso del computer da parte dei dipendenti. Nel testo della petizione, i firmatari hanno scritto che la raccolta e il riutilizzo di informazioni di questo tipo sollevano "serie preoccupazioni su privacy, consenso e fiducia nel luogo di lavoro".

La pressione interna è aumentata dopo quanto riportato da Wired, secondo cui i dati raccolti attraverso la Model Capability Initiative dai laptop aziendali sarebbero stati accessibili a chiunque all'interno di Meta. La testata ha citato una comunicazione interna di sicurezza in cui si faceva riferimento all'esposizione di tabelle contenenti "prompt e trascrizioni completi, conversazioni private, dati sulle persone e sulle performance".

Meta ha confermato la sospensione del programma, sostenendo però di averlo progettato con misure di tutela della privacy:

"Abbiamo progettato con attenzione questo programma con garanzie per la privacy e, anche se al momento non abbiamo indicazioni che dati siano stati consultati impropriamente dai dipendenti Meta, lo stiamo sospendendo mentre indaghiamo"

La scelta di raccogliere dati dall'uso dei computer aziendali si inseriva nella strategia più aggressiva di Meta sull'AI. Mark Zuckerberg avrebbe spiegato ai dipendenti, durante una riunione interna, che i modelli AI imparano "guardando persone molto intelligenti fare cose". Secondo questa impostazione, le capacità degli ingegneri Meta, in particolare nella scrittura del codice, avrebbero potuto migliorare in modo sensibile le prestazioni dei modelli nelle attività di programmazione.

Zuckerberg avrebbe aggiunto che "l'intelligenza media delle persone che lavorano in questa azienda è significativamente più alta rispetto all'insieme medio di persone a cui si possono far svolgere compiti", collegando quindi il valore dei dati interni alla qualità del lavoro prodotto dai dipendenti.

La sospensione del programma arriva mentre Meta sta investendo cifre molto elevate nell'AI. La società guidata da Zuckerberg prevede fino a 145 miliardi di dollari di spese in conto capitale quest'anno, con una parte consistente destinata a infrastrutture per l'intelligenza artificiale, compresi i data center. L'obiettivo è rafforzare i modelli e i prodotti basati su AI, in una fase in cui la competizione tra i grandi gruppi tecnologici si gioca sempre più sulla capacità di addestrare sistemi potenti e integrarli nei servizi già usati da miliardi di persone.

CLICCA QUI PER CONTINUARE A LEGGERE