ChatGPT inventa testimoni in un ricorso: multato un avvocato del New Mexico

Un avvocato del New Mexico ha chiesto a ChatGPT di preparare le memorie per un cliente condannato per l’omicidio della moglie e si è ritrovato con testimoni mai esistiti all’interno degli atti depositati. La Corte Suprema dello Stato lo ha dichiarato colpevole di oltraggio diretto alla corte, lo ha multato di 5.000 dollari e lo ha segnalato al collegio disciplinare. La vicenda, ricostruita da 404 Media, è l’ennesima prova di quanto sia rischioso fidarsi di un chatbot senza controllare.

Cosa è successo davanti alla Corte Suprema del New Mexico

Il protagonista è Stephen D. Aarons, avvocato che assisteva un uomo condannato all’ergastolo per aver ucciso la moglie. Nell’appello, Aarons ha usato ChatGPT per redigere le memorie difensive. Il risultato conteneva persone e dichiarazioni inventate di sana pianta, presentate come se fossero parte degli atti del processo.

Tra i nomi fittizi c’erano un certo Danny Stanton, che avrebbe dichiarato di aver ricevuto minacce, e una Linda Stanton, che avrebbe raccontato le minacce subite dal marito. Altri testimoni inesistenti descrivevano l’abbigliamento e l’aspetto fisico dell’autore dello sparo. Insomma, un racconto verosimile, scritto con il tono sicuro di chi conosce i fatti, ma privo di qualunque riscontro nel fascicolo.

La Corte Suprema, con il procedimento registrato come S-1-SC-40845, ha convocato un collegio di cinque giudici per un’udienza nell’agosto 2026. Il caso è stato poi raccontato anche da Reuters a settembre, mentre i documenti giudiziari erano stati segnalati su X da Rob Freund.

Le conseguenze per l’avvocato e per il cliente

La decisione dei giudici è stata netta. Aarons è stato ritenuto responsabile di oltraggio diretto alla corte e condannato a pagare 5.000 dollari al fondo di protezione dei clienti dell’ordine forense del New Mexico. Inoltre è stato segnalato al collegio disciplinare e, finché l’indagine è in corso, non può presentarsi davanti alla Corte.

Le conseguenze più pesanti, però, ricadono sul cliente. L’avvocato è stato rimosso dal caso e al detenuto è stato assegnato un difensore d’ufficio. Si tratta di una persona che sta scontando l’ergastolo e che parla spagnolo, e secondo la ricostruzione Aarons non gli aveva spiegato direttamente che cosa fosse accaduto con ChatGPT. Ai familiari avrebbe parlato soltanto di un generico problema con una memoria.

Il punto, quindi, non è solo l’errore tecnico. È la catena di responsabilità che si spezza quando un professionista delega a un software un lavoro che richiede verifica puntuale.

La difesa dell’avvocato e le parole dei giudici

Davanti ai giudici e a Reuters, Aarons ha spiegato di aver “assunto” che ChatGPT producesse un riassunto del procedimento a prova di errore. Ha parlato di un errore in buona fede, ha attribuito il problema alla propria stupidità e ha detto di essersi ispirato ai medici che usano l’intelligenza artificiale per la ricerca.

Un giudice ha replicato con un’osservazione che fotografa il momento storico: i casi di avvocati che si affidano alle allucinazioni dell’AI sono una notizia da prima pagina ogni singolo giorno. Lo stesso magistrato si è chiesto se l’avvocato fosse all’oscuro per scelta o se avesse “tirato i dadi”, ricordando che ormai persino un tredicenne sa che questi sistemi possono inventare.

È una frase dura, ma coglie il nodo. Oggi l’ignoranza sul funzionamento dei modelli linguistici non è più una giustificazione credibile, soprattutto per chi esercita una professione regolata.

Perché ChatGPT inventa testimoni e citazioni

Per capire il caso serve ricordare come funziona un modello linguistico. Un sistema come ChatGPT non consulta un archivio di fatti verificati: genera il testo più plausibile in base a ciò che ha appreso e al contesto che gli viene fornito. Se gli chiedi un riassunto di un processo senza dargli gli atti, riempie i vuoti con elementi che suonano credibili.

Nel diritto questo meccanismo è particolarmente insidioso. Un testimone, un precedente o una citazione di legge hanno una forma molto riconoscibile, e il modello è bravissimo a imitarla. Il risultato sembra un atto autentico, con nomi, dichiarazioni e dettagli coerenti, e proprio per questo supera la prima lettura distratta.

Un problema che non riguarda solo i tribunali

Il fenomeno non è isolato. Nell’articolo di 404 Media si ricorda che nel maggio 2026 la Divisione d’Appello di New York ha criticato diversi avvocati per l’uso dell’AI, e che perfino alcuni stenografi giudiziari sono stati sorpresi a consegnare trascrizioni con errori generati dall’intelligenza artificiale. Il filo comune è sempre lo stesso: output accettato senza verifica.

Lo stesso rischio vale per giornalisti, consulenti, medici e per chiunque lavori con documenti che hanno conseguenze reali. Chi si occupa di marketing e SEO conosce bene la tentazione di pubblicare testi generati senza controllare i dati. La differenza è che, in un’aula di giustizia, l’errore costa la libertà di un’altra persona.

Che cosa cambia per professionisti e aziende

La lezione più concreta è organizzativa. Gli strumenti di AI generativa vanno trattati come un collaboratore veloce ma inaffidabile, che produce bozze e non atti finali. Ogni fatto, nome, numero o citazione deve essere confrontato con una fonte primaria prima di finire in un documento ufficiale.

Questo vale anche per la formazione interna. Molte organizzazioni hanno adottato questi strumenti più in fretta di quanto abbiano insegnato a usarli, e per questo una solida alfabetizzazione sull’intelligenza artificiale è diventata una competenza di base, non un optional.

Sul piano giuridico, il tema si intreccia con le cause che coinvolgono i grandi sviluppatori di modelli, come quella che vede USA Today contro OpenAI per l’addestramento sui contenuti. Da una parte si discute di come i modelli vengono costruiti, dall’altra di come vengono usati, e i tribunali stanno iniziando a intervenire su entrambi i fronti.

Buone pratiche minime da adottare subito

Per ridurre il rischio, bastano alcune regole semplici ma da applicare con disciplina. Nessun contenuto generato da un chatbot dovrebbe essere depositato, pubblicato o inviato a un cliente senza una verifica umana su fonti originali. Quando chiedi un riassunto, fornisci al modello i documenti reali e controlla che ogni elemento citato compaia davvero al loro interno.

Conta anche la trasparenza. Se qualcosa va storto, spiegarlo subito alle persone coinvolte limita i danni, mentre il silenzio, come mostra questa vicenda, li aggrava.

Il ruolo dei controlli nei flussi di lavoro con l’AI

Un aspetto spesso sottovalutato è che l’errore non nasce solo dal modello, ma dal modo in cui viene inserito nel processo. Se nessuno è incaricato di rileggere, confrontare e firmare con consapevolezza, il testo generato passa direttamente dal chatbot al documento finale. In uno studio legale come in una redazione, serve una persona che risponda di ogni affermazione.

Per questo molti esperti consigliano di separare chiaramente la fase di generazione da quella di verifica, assegnandole a momenti e, quando possibile, a persone diverse. Un controllo fatto con calma e con i documenti originali sul tavolo intercetta quasi sempre ciò che una lettura veloce lascia passare.

Il caso del New Mexico dimostra che saltare questo passaggio ha un prezzo concreto, e lo paga soprattutto chi si fida del professionista.

Il segnale per chi usa l’AI ogni giorno

La sanzione da 5.000 dollari è piccola rispetto alla posta in gioco, ma il messaggio è chiaro: i tribunali non considerano più l’allucinazione di un chatbot una scusa accettabile. La responsabilità resta sempre di chi firma l’atto, indipendentemente dallo strumento usato per prepararlo.

Per te, che usi l’intelligenza artificiale nel lavoro quotidiano, la conclusione è pratica. Sfrutta questi strumenti per risparmiare tempo su bozze, strutture e idee, ma costruisci sempre un passaggio di controllo prima di consegnare qualunque risultato. Se vuoi approfondire come usarli in modo sicuro, continua a seguire le nostre guide e le notizie sull’evoluzione dell’AI: un’ora spesa a verificare costa molto meno di una sanzione, e a volte molto meno di una carriera.