E se l’AI mentisse su di te o al tuo dirigente?

lentepubblica.it

In un recente articolo dal titolo emblematico, “Quando l’AI mente, sapendo di mentire”, pubblicato su The Bill a firma di Giuseppe Orefice, si approfondisce un aspetto non molto palesato nel dibattito in corso sull’Intelligenza artificiale e sulle implicazioni connesse.
Il senso dell’articolo, in estrema sintesi, è che il vero rischio dell’AI non è semplicemente che possa sbagliare, ma che possa produrre informazioni false con l’apparenza, il linguaggio e l’autorevolezza della verità.
L’allucinazione tecnica, per chi riceve e utilizza quella risposta, può quindi trasformarsi concretamente in una menzogna. Il problema nasce proprio qui: chiediamo all’Intelligenza artificiale soprattutto ciò che non sappiamo e, proprio perché non lo sappiamo, potremmo non avere gli strumenti per riconoscere una risposta falsa presentata come assolutamente vera.

Nella Pubblica amministrazione italiana, come in tutti gli altri settori, il dibattito sui costi e benefici dell’utilizzo dei sistemi di AI oscilla, per dirla alla Umberto Eco, fra apocalittici e integrati. In realtà, per quanto se ne parli, non siamo oggi dinanzi a sistemi dei quali sia stata dimostrata una qualche forma di coscienza o senzienza. Siamo ancora, purtroppo o per fortuna, davanti a potentissimi sistemi che potremmo definire di “statistica aumentata”. È il cosiddetto tempo tragico: il momento in cui il modello precedente mostra i propri limiti, mentre i contorni del nuovo sistema non sono ancora sufficientemente chiari.
Eppure i prodromi di una forte preoccupazione cominciano ormai a palesarsi a gran voce.

Gli allarmi arrivano da chi l’AI la costruisce

Uno degli ultimi segnali arriva direttamente da Jacob Coxon, ricercatore che negli ultimi tre anni ha lavorato sul pretraining prima in OpenAI e poi in Anthropic e che ha annunciato le proprie dimissioni dall’azienda. Coxon ha manifestato forti preoccupazioni rispetto alla corsa verso una possibile superintelligenza auto-migliorante, sviluppata, a suo giudizio, senza garanzie adeguate sulla capacità di mantenerne il controllo. Ancora più significativa è la posizione di Evan Hubinger, impegnato nella ricerca sull’allineamento in Anthropic: secondo quanto riportato in queste ore, attribuisce una probabilità superiore al 10% alla possibilità che una futura superintelligenza possa condurre entro il prossimo decennio a conseguenze estreme per l’umanità. È però necessaria una precisazione tutt’altro che secondaria: Hubinger distingue questo scenario dai modelli attualmente disponibili, ai quali attribuisce rischi molto più contenuti.
L’allarme riguarda quindi soprattutto ciò che potrebbe accadere con sistemi capaci di forme di auto-miglioramento ricorsivo, non ChatGPT, Gemini o Claude così come li utilizziamo oggi.

Sarebbe facile liquidare tutto questo come l’ennesima profezia apocalittica sulla tecnologia. Un po’ meno facile quando a manifestare preoccupazione sono persone che quella tecnologia contribuiscono direttamente a costruirla. E il tema è ormai entrato anche nel dibattito politico italiano. Giorgia Meloni, intervenendo il 9 settembre sul tema dell’Intelligenza artificiale, ha parlato contemporaneamente di “potenzialità straordinarie” ed “enormi rischi”, richiamando espressamente l’impatto sui diritti, sulla democrazia, sulla capacità di distinguere ciò che è vero da ciò che è falso e sul mercato del lavoro. La premier ha sottolineato una differenza essenziale rispetto alle precedenti rivoluzioni industriali: questa volta la tecnologia non interviene soltanto sul lavoro fisico, ma direttamente sulle capacità intellettuali dell’uomo.

E intanto l’AI entra nella gestione del personale pubblico

Ed è proprio nel lavoro che la questione comincia a diventare molto concreta anche per la PA. Il ministro Paolo Zangrillo ha annunciato Agorà, un insieme di strumenti di Intelligenza artificiale destinati al reclutamento e all’analisi dei profili e delle competenze necessarie alle amministrazioni. Attenzione: questo non significa che domani un algoritmo deciderà autonomamente chi assumere, promuovere o trasferire. Significa però che l’AI è destinata a entrare sempre di più nei processi attraverso i quali vengono raccolte, elaborate e interpretate informazioni sul capitale umano pubblico. E non è un dettaglio.

Non a caso il quadro europeo presta una particolare attenzione ai sistemi di AI utilizzati nei processi che incidono sulle persone e sul lavoro. Per gli impieghi classificati ad alto rischio sono previsti obblighi di controllo, tracciabilità e supervisione umana; quando a utilizzarli sono autorità pubbliche o soggetti che erogano servizi pubblici entra in gioco anche la valutazione dell’impatto sui diritti fondamentali. Tradotto dal burocratese, il principio è abbastanza semplice: più l’algoritmo può incidere sulla vita di qualcuno, meno può essere lasciato solo.

Il problema non è quando sbaglia una cosa difficile

Ed eccoci al punto di partenza. Nel caso raccontato su The Bill, l’AI non aveva “allucinato” su un problema di fisica quantistica, su un’operazione di intelligence o su un sofisticato attacco di cyberterrorismo. Aveva mentito su una banalità. Interrogato sulla propria appartenenza, Gemini aveva sostenuto di essere un prodotto OpenAI e aveva utilizzato quella stessa falsa ricostruzione per argomentare la propria presunta indipendenza da Google. Quando l’errore gli è stato contestato, il sistema ha riconosciuto di avere fornito un’informazione completamente falsa ed errata. Naturalmente questo non dimostra che una macchina abbia coscienza o intenzione di mentire. Ma dal punto di vista di chi riceve la risposta il problema rimane: un fatto falso è stato costruito, argomentato e presentato con l’autorità linguistica di un fatto vero.

Ed è forse proprio la banalità dell’episodio a renderlo più interessante. Perché se un sistema può sbagliare con tanta sicurezza su qualcosa di elementare, la domanda per la Pubblica amministrazione non riguarda soltanto fantascientifici scenari di superintelligenza.

E se l’AI mentisse su di te?

Se fornisse al tuo dirigente un’informazione sbagliata sulle tue competenze, sulle attività che hai svolto, sui risultati raggiunti o sul tuo percorso professionale? Se quella risposta diventasse uno degli elementi utilizzati per valutare una candidatura, distribuire incarichi o individuare profili? Chi si accorgerebbe dell’errore e, soprattutto, prima o dopo che quell’informazione abbia prodotto un effetto?

Ma possiamo andare oltre. Cosa accadrebbe se un sistema generasse o interpretasse erroneamente informazioni destinate ai cittadini su un servizio pubblico, un diritto, una scadenza o un procedimento amministrativo? E ancora: immaginiamo l’utilizzo crescente di sistemi automatici a supporto della Protezione civile, nella gestione di un terremoto, di un’alluvione o di un incendio; nell’analisi di dati destinati a orientare evacuazioni, percorsi, priorità o comunicazioni alla popolazione. Oppure nei sistemi di sicurezza, nella cybersicurezza, nell’analisi di minacce o in attività connesse all’antiterrorismo. Non significa sostenere che oggi un chatbot decida autonomamente se evacuare una città o individuare un terrorista. Significa porre adesso il problema di cosa succederà quando informazioni prodotte o filtrate dall’AI entreranno sempre più spesso nella catena delle decisioni pubbliche.

A quel punto l’allucinazione non sarà più una risposta curiosamente sbagliata comparsa su uno schermo. Potrà diventare un dato sul quale qualcuno prende una decisione reale, magari in pochi minuti e senza avere il tempo materiale di ricostruirne l’origine.

L’Intelligenza artificiale può rappresentare una straordinaria leva di innovazione per la PA e sarebbe miope rinunciarvi. Ma proprio per questo non basta domandarsi quanto sia intelligente. Bisogna sapere quanto sia affidabile, quali fonti abbia utilizzato, come sia possibile verificare quello che produce, chi eserciti realmente la supervisione umana e soprattutto chi risponda quando sbaglia. Perché il rischio più subdolo non è una macchina che ammette di non conoscere una risposta. È una macchina che non la conosce e risponde comunque come se la conoscesse.

Pinocchio almeno, quando mentiva, aveva un problema: gli si allungava il naso. All’algoritmo no. E quando dall’altra parte dello schermo non ci sono più soltanto una domanda o una curiosità, ma il tuo lavoro, un diritto, un terremoto, un’alluvione o un’emergenza di sicurezza, sarebbe decisamente meglio che qualcuno riuscisse a riconoscere la bugia prima che sia la realtà a smentirla.

The post E se l’AI mentisse su di te o al tuo dirigente? appeared first on lentepubblica.it.