Allucinazioni dell’IA: la giustizia è davvero in pericolo?

L’ordinanza del Tribunale di Firenze del 14 marzo 2025 ha aperto un importante dibattito sull’utilizzo dell’intelligenza artificiale (IA) nel contesto legale, in particolare riguardo al fenomeno delle “allucinazioni” di cui questi sistemi possono essere capaci. La questione sollevata riguarda la possibile responsabilità per lite temeraria, ai sensi dell’art. 96 c.p.c., nel caso in cui un difensore utilizzi in modo improprio strumenti come ChatGPT, inserendo riferimenti giurisprudenziali errati o inesistenti negli atti difensivi. Questo caso rappresenta un punto di svolta, poiché mette in luce i rischi e le sfide che l’IA pone al mondo del diritto, dove la precisione e l’affidabilità delle fonti sono elementi imprescindibili.

Il Caso Specifico e le “Allucinazioni” dell’IA

Il caso in esame trae origine da un reclamo contro il sequestro di merce contraffatta. Il ricorrente aveva sollecitato la condanna per responsabilità aggravata della società che aveva perso la causa, adducendo che quest’ultima avesse riportato, all’interno delle proprie difese scritte, citazioni giuridiche inaccurate, derivanti da un’indagine eseguita tramite IA.

Il legale della parte convenuta ha asserito che l’inserimento di tali riferimenti era stato causato da un errore di una collaboratrice dello studio, che si era avvalsa di ChatGPT per effettuare la ricerca.

Nello specifico, sembra che ChatGPT abbia fabbricato numeri identificativi di presunte pronunce della Suprema Corte di Cassazione concernenti l’acquisizione a titolo personale di beni contraffatti, privi di qualsiasi fondamento nella realtà.

Tale eventualità costituisce un grave pericolo per la professione legale, poiché un avvocato che si fidi incondizionatamente delle investigazioni condotte dall’IA corre il rischio di incorrere in errori significativi, pregiudicando la qualità della difesa e l’esito finale del procedimento.

L’Art. 96 c.p.c. e la Responsabilità per Lite Temeraria

“L’art. 96 c.p.c.” e la responsabilità per lite temeraria: Il Tribunale di Firenze ha negato l’operatività dell’art. 96 c.p.c.

che contempla l’aggravamento della responsabilità per controversia avventata, poiché non è stata dimostrata la malafede della parte soccombente.

I magistrati hanno constatato che le menzioni giurisprudenziali scorrette erano state riprodotte nelle memorie difensive a supporto di una linea procedurale rimasta invariata fin dal primo grado di giudizio.

È stato ulteriormente posto in rilievo che l’impianto difensivo della società convenuta poggiava sull’assenza di intenzionalità fraudolenta nella vendita delle t-shirt recanti le illustrazioni del ricorrente.

Quella strategia difensiva era già nota all’organo giudicante e non puntava a trarre in errore i giudici per mezzo di un impiego scorretto dell’IA.

Un ulteriore elemento degno di nota è la mancanza di prove concrete del danno patito dal ricorrente a causa dell’inclusione dei riferimenti giurisprudenziali inconsistenti.
Esso postula infatti la prova dell’aspetto soggettivo rappresentato dalla malafede o dalla colpa grave, unitamente alla dimostrazione del danno subito e del rapporto di causa-effetto tra la condotta illecita e il nocumento arrecato.

La decisione del Tribunale di Firenze sottolinea l’importanza di un utilizzo coscienzioso degli strumenti di intelligenza artificiale da parte dei professionisti legali.

Benchè ChatGPT possa costituire un valido ausilio per la ricerca e l’elaborazione degli atti di causa, il suo impiego non può surrogare il controllo e la verifica delle informazioni ad opera del professionista.

Implicazioni e Prospettive Future

La vicenda solleva interrogativi cruciali sull’etica e la deontologia professionale nell’era dell’IA. L’avvocato, in quanto custode della legalità e garante dei diritti del cittadino, ha il dovere di verificare l’attendibilità delle fonti utilizzate, anche quando queste provengono da strumenti tecnologici avanzati. La delega incondizionata a sistemi di IA, senza un adeguato controllo umano, può compromettere l’affidabilità del contraddittorio e viziare il processo decisionale in sede giudiziaria.

La pronuncia del Tribunale di Firenze, pur escludendo la responsabilità per lite temeraria nel caso specifico, rappresenta un importante monito per il futuro. Il rischio di “allucinazioni” dell’IA è un fenomeno reale che può compromettere seriamente la qualità della difesa e l’amministrazione della giustizia. È necessario, quindi, promuovere una maggiore consapevolezza dei limiti e delle potenzialità dell’IA nel contesto legale, incentivando la formazione e l’aggiornamento professionale degli avvocati sull’uso responsabile di questi strumenti.

Verso un Utilizzo Consapevole dell’IA nel Diritto

La decisione del Tribunale di Firenze non deve essere interpretata come un via libera all’uso indiscriminato dell’IA nel contesto legale, bensì come un invito alla prudenza e alla responsabilità. L’IA può rappresentare un valido supporto per l’attività forense, automatizzando compiti ripetitivi e facilitando la ricerca di informazioni, ma non può sostituire il ragionamento critico e la competenza del professionista.

È fondamentale che gli avvocati acquisiscano una solida conoscenza dei principi fondamentali dell’IA, comprendendo i suoi limiti e le sue potenzialità. Solo in questo modo sarà possibile sfruttare appieno i vantaggi offerti da questi strumenti, evitando i rischi connessi alle “allucinazioni” e garantendo la qualità della difesa e l’integrità del sistema giudiziario.

Riflessioni Conclusive: Tra Etica, Tecnologia e Responsabilità

L’avvento dell’intelligenza artificiale nel mondo del diritto ci pone di fronte a sfide inedite, che richiedono una riflessione profonda e un approccio multidisciplinare. Come possiamo conciliare l’innovazione tecnologica con i principi fondamentali dell’etica professionale e della responsabilità giuridica? Come possiamo garantire che l’IA sia utilizzata a vantaggio della giustizia e non a suo detrimento? Queste sono domande cruciali, che richiedono un dibattito aperto e costruttivo tra giuristi, informatici, filosofi e policy maker.

Una nozione base di intelligenza artificiale che si applica perfettamente a questo tema è quella di machine learning supervisionato. In questo contesto, ChatGPT e altri modelli linguistici vengono addestrati su enormi quantità di dati testuali, imparando a generare risposte coerenti e pertinenti alle domande poste. Tuttavia, se i dati di addestramento contengono informazioni errate o incomplete, il modello può “imparare” a riprodurre tali errori, generando le cosiddette “allucinazioni”.

Una nozione più avanzata è quella di explainable AI (XAI). L’XAI mira a rendere i modelli di intelligenza artificiale più trasparenti e comprensibili, consentendo agli utenti di capire come il modello è arrivato a una determinata conclusione. Nel contesto legale, l’XAI potrebbe essere utilizzata per analizzare le motivazioni alla base delle risposte generate da ChatGPT, identificando eventuali errori o bias presenti nei dati di addestramento.

La vicenda del Tribunale di Firenze ci ricorda che l’IA è uno strumento potente, ma non infallibile. È necessario, quindi, un approccio critico e consapevole, che valorizzi il ruolo del professionista come interprete e garante della legalità. Solo in questo modo potremo sfruttare appieno le potenzialità dell’IA, senza compromettere i principi fondamentali del diritto e della giustizia.