Perché l’AI a volte inventa? Come lo studente che tira a indovinare

Chiedi a un chatbot il compleanno di una persona poco nota. Ti risponde sicuro, con una data precisa. Peccato che sia sbagliata. E se riprovi, te ne dà un’altra.

Non è fantascienza: è successo agli stessi ricercatori che studiano il problema. Una ricerca firmata soprattutto da OpenAI propone una spiegazione curiosa: l’AI inventa perché è stata premiata per tirare a indovinare.

Cos’è un’allucinazione dell’AI

Un chatbot come ChatGPT funziona grazie a un modello linguistico. È un programma che ha letto enormi quantità di testo e ha imparato a prevedere la parola successiva. Pensa al completamento automatico del telefono, ma molto più potente.

Quando questo programma ti dà un’informazione falsa con l’aria di chi sa, si parla di allucinazione. Non è una bugia: il modello non sa di sbagliare.

Gli autori dello studio raccontano un esempio. Hanno chiesto a un chatbot il compleanno di uno di loro, Adam Tauman Kalai. Hanno ricevuto tre date diverse, tutte sbagliate. Stessa storia con il titolo della sua tesi di dottorato: tre titoli, nessuno giusto.

Lo studente che tira a indovinare

A settembre 2025 è uscito lo studio «Why Language Models Hallucinate», cioè «Perché i modelli linguistici hanno le allucinazioni». Quasi tutti gli autori lavorano per OpenAI, l’azienda di ChatGPT; uno, Santosh Vempala, è del Georgia Tech. Non è quindi una valutazione indipendente: è OpenAI che spiega un difetto anche dei propri strumenti.

La loro tesi si capisce pensando a un quiz a crocette senza penalità. Se lasci in bianco, prendi zero di sicuro. Se tiri a indovinare, magari prendi il punto.

Secondo gli autori, le AI vivono la stessa situazione. Vengono valutate con i benchmark, cioè test standard che danno un voto, come una pagella. Molti di questi test contano solo le risposte giuste. Così un modello che ammette di non sapere sembra peggiore di uno che inventa.

Il test che ribalta la classifica

Per mostrarlo, OpenAI ha confrontato due suoi modelli su un test di domande fattuali chiamato SimpleQA. Il più recente, gpt-5-thinking-mini, si è astenuto nel 52% dei casi. Ha risposto giusto nel 22% e ha sbagliato nel 26%.

Il modello precedente, o4-mini, non si è quasi mai tirato indietro: solo l’1% di astensioni. Ha indovinato un po’ di più, il 24%, ma ha sbagliato nel 75% dei casi. A guardare solo le risposte giuste sembra più bravo. In realtà sbaglia quasi tre volte tanto.

Attenzione, però: sono numeri di un solo test, misurati da OpenAI stessa. Non dicono quanto sbaglia un chatbot nella vita di tutti i giorni.

Perché i fatti rari sono una trappola

C’è anche un secondo motivo, legato a come il modello impara. Legge testi che non hanno etichette di «vero» o «falso». Le cose che seguono regole fisse, come l’ortografia, le impara bene. Quegli errori spariscono man mano che i modelli crescono.

I fatti rari e arbitrari sono un’altra storia. Il compleanno del tuo gatto non si deduce da nessuna regola: o lo sai o no. Tirando a caso, la data giusta ha una probabilità su 365. È lì che nascono le invenzioni.

Il quiz non è l’unica causa: pesano anche, per esempio, gli errori già presenti nei testi di addestramento. Ma per gli autori le allucinazioni si possono ridurre. Propongono di cambiare i voti dei test. Gli errori detti con sicurezza dovrebbero costare di più, e chi ammette il dubbio dovrebbe ricevere almeno una parte del punto. Un’altra strada è controllare l’AI con metodi rigorosi, come l’AI di Google DeepMind che verifica con la matematica il codice di Signal.

Quando l’invenzione finisce in tribunale

Le allucinazioni non restano un problema da laboratorio. Il ricercatore Damien Charlotin raccoglie in un database online, consultabile gratis, le decisioni dei giudici su contenuti inventati dall’AI. Di solito sono sentenze citate negli atti che in realtà non esistono.

Al 12 novembre 2026 i casi erano 2.292: oltre 1.500 negli Stati Uniti e 15 in Italia. Il numero cresce quasi ogni giorno, e in qualche caso l’uso dell’AI è solo sospettato, non confermato.

Uno dei casi italiani più recenti viene da Siracusa. Secondo il resoconto di ICT Security Magazine, con la sentenza n. 338 del 20 febbraio 2026 il giudice ha controllato quattro precedenti della Cassazione citati dall’avvocato di una società. Alcuni esistevano ma parlavano d’altro, altri non esistevano proprio. Nemmeno le frasi tra virgolette comparivano in sentenze vere.

Il conto è stato salato. Domanda respinta, 14.103 euro di spese legali, altri 14.103 per responsabilità aggravata e 2.000 euro alla Cassa delle ammende. Per il giudice, usare l’AI senza verificare le fonti è «colpa grave».

Un anno prima, a Firenze, in un atto erano spuntate sentenze inesistenti. Secondo l’avvocato, le aveva trovate una collaboratrice usando ChatGPT. Lì però la condanna per lite temeraria fu respinta, perché mancava la prova della malafede e del danno.

Cosa puoi fare subito

La buona notizia è che non serve essere esperti. Bastano quattro abitudini.

1. Chiedi le fonti e aprile davvero. Se l’AI cita uno studio o una sentenza, clicca il link o cerca il titolo. È il controllo che il giudice di Siracusa ha fatto. Se la fonte non si trova, fermati.
2. Dai all’AI il permesso di dire «non lo so». È il rimedio del paper, applicato da te. Trovi il testo da copiare qui sotto.
3. Fornisci tu il materiale. Per fatti recenti, numeri e nomi, attiva la ricerca web se il tuo chatbot la offre, oppure incolla il documento. Il rischio cala ma non sparisce. La classifica Vectara, che misura solo i riassunti di documenti, registra errori dall’1,8% in su.
4. Fai la prova del tre. Ripeti la domanda in una nuova chat o con altre parole. Se ottieni risposte diverse, come le tre date di compleanno, l’AI sta probabilmente tirando a indovinare.

Ecco il testo da aggiungere alle tue domande:

Rispondi solo se sei ragionevolmente sicuro. Se non lo sai, dimmelo: preferisco un «non lo so» a una risposta inventata. Per ogni dato importante indica la fonte, così posso controllarla.

Occhio soprattutto a date, cifre, citazioni esatte e persone poco note. Sono i fatti rari, dove la tentazione di indovinare è più forte. Per il resto, secondo noi l’AI resta un aiuto prezioso. Basta trattarla come un compagno di banco brillante, ma da controllare.

Fonti

• Why Language Models Hallucinate (arXiv:2509.04664) – arXiv
• Why language models hallucinate – OpenAI
• AI Hallucination Cases (database) – damiencharlotin.com
• Sentenza Tribunale di Siracusa 338/2026: colpa grave per uso non verificato dell’IA – ICT Security Magazine
• Intelligenza artificiale negli atti difensivi: il Tribunale di Firenze sulle allucinazioni AI – Diritto.it
• Hallucination Leaderboard – Vectara (GitHub)

Foto di copertina: Brocken Inaglory, CC BY-SA 3.0, via Wikimedia Commons (rielaborata da RicercAttiva).