Avvocato multato per aver usato ChatGPT in un caso di omicidio: i testimoni erano inventati

La storia dei legali che si fidano ciecamente dell'AI e finiscono nei guai non è nuova, ma ogni nuovo capitolo riesce comunque a sorprendere. Questa volta siamo nel New Mexico, dove la Corte Suprema statale ha appena multato un avvocato di 5.000 dollari e lo ha dichiarato in oltraggio alla corte per aver presentato un appello in un caso di omicidio farcito di testimoni completamente inventati da ChatGPT.

Il legale in questione si chiama Stephen Aarons, e durante un'udienza di agosto ha ammesso di aver usato ChatGPT pensando che avrebbe prodotto un "riassunto blindato" del processo. Ecco, non è andata così: il documento conteneva testimonianze false attribuite a persone mai esistite, oltre a dettagli inventati sull'aspetto e sull'abbigliamento del presunto sparatore.

La reazione della giudice C. Shannon Bacon dice tutto. Durante l'udienza ha chiesto ad Aarons:

Avvocato, lei guarda il telegiornale? Ascolta la radio? Legge qualcosa su quello che succede nel mondo? Perché il problema degli avvocati che si affidano alle allucinazioni dell'intelligenza artificiale è una notizia che salta subito all'occhio ogni singolo giorno.

Il termine "allucinazione" indica la tendenza dei modelli linguistici come ChatGPT a inventare informazioni plausibili ma false, come citazioni, nomi, date, fatti. Non è un bug raro, è una caratteristica strutturale di questi strumenti, e usarli senza verificare ogni singola affermazione in un contesto legale è semplicemente pericoloso. Aarons ha dichiarato di essere "dispiaciuto ma speranzoso che il consiglio disciplinare tenga conto del fatto che è stato un errore onesto".

Il problema è che non è il primo caso di questo tipo. L'anno scorso un giudice aveva già sanzionato due studi legali per aver presentato atti con "numerose citazioni legali false, imprecise e fuorvianti" generate dall'AI. Anche i legali di Mike Lindell, il fondatore di MyPillow, erano stati multati per citazioni inventate di sana pianta da un modello linguistico.

Chiaramente ChatGPT e strumenti simili possono essere utili per fare brainstorming o per strutturare un testo, ma fidarsi ciecamente dell'AI in contesti dove i fatti devono essere verificabili e documentati è una scelta che può avere conseguenze serie. Vale per gli avvocati, ma anche per chiunque altro.

L'articolo Avvocato multato per aver usato ChatGPT in un caso di omicidio: i testimoni erano inventati sembra essere il primo su Smartworld.