Gli avvocati di entrambe le parti si affidano all’AI, processo finisce nel caos

Come sappiamo l’intelligenza artificiale è una tecnologia con un enorme potenziale, ma è anche imperfetta: ogni tanto può avere le cosiddette allucinazioni, in cui risponde in modo completamente insensato o, più pericoloso, inventa di sana pianta informazioni. Per questo è sempre importante controllare e verificare le risposte dei chatbot AI. Il problema è che evidentemente non tutti hanno ricevuto il messaggio, e più questi strumenti si diffondono, più crescono le segnalazioni di casi di allucinazione anche molto clamorosi.

Un “filone” particolarmente interessante è quello relativo al mondo giudiziario: sono già stati riportati diversi casi di processi in cui degli avvocati hanno citato riferimenti a casi completamente inventati, per poi dare la colpa all’uno o all’altro chatbot. Questo problema è particolarmente grave nei Paesi come gli Stati Uniti, in cui vale il principio del precedente giuridico: ogni caso analogo pregresso è fondamentale per giudicare tutti quelli futuri. Ormai le allucinazioni in queste circostanze non fanno quasi neanche più notizia, ma negli scorsi giorni in Mississippi se n’è verificato uno estremamente grave.

Nel corso di un procedimento civile, gli avvocati di entrambe le parti hanno presentato documenti contenenti riferimenti a sentenze inesistenti, allucinate da strumenti AI, tanto che la giudice Sharion Aycock ha sospeso il processo e sanzionato tutti e quattro gli avvocati coinvolti. Alcuni hanno ammesso di aver usato strumenti AI per svolgere ricerche giuridiche o redigere memorie difensive, altri hanno riconosciuto di aver firmato e presentato documenti preparati con l’aiuto dell’AI senza effettuare controlli approfonditi. Una ha addirittura ammesso di non avere idea che questi software potessero avere delle allucinazioni; ha anche continuato a usare strumenti AI anche dopo essere stata ammonita

CLICCA QUI PER CONTINUARE A LEGGERE