Hai presente quando qualcuno racconta un ricordo con assoluta certezza — il vestito che indossavi, le parole esatte che hai detto, il tempo che faceva — e tu sai che non è andata così? Non sta mentendo. È convinto di ricordare. Il cervello ha riempito i vuoti con dettagli plausibili, e lui non sa distinguere il ricordo vero dalla ricostruzione.
L’intelligenza artificiale fa esattamente questo. Ogni volta che risponde.
La sicurezza non è sinonimo di verità
Chiedi a ChatGPT chi ha vinto il Nobel per la letteratura nel 1987. Risponderà con sicurezza: Joseph Brodsky. Corretto. Chiedi chi l’ha vinto nel 1953. Risponderà con la stessa sicurezza: Winston Churchill. Ancora corretto.
Ora chiedi informazioni su un libro poco conosciuto di un autore minore. Otterrai titolo, anno di pubblicazione, editore, trama. Tutto presentato con identica sicurezza. Tutto potenzialmente inventato.
L’AI non sa di non sapere. Quando le manca un’informazione, non si ferma. Genera la risposta più probabile dato il contesto. Se la domanda riguarda un libro, produce qualcosa che sembra un libro. Che esista o meno è irrilevante per il meccanismo.
Il termine tecnico è “allucinazione”. È fuorviante perché suggerisce un errore, un malfunzionamento. In realtà è il funzionamento normale: l’AI è progettata per produrre testo plausibile, non per verificare fatti.
Come funziona davvero
Immagina di dover completare questa frase: “Il gatto si è seduto sul…”
Probabilmente hai pensato “divano”, “tappeto”, “davanzale”. Parole che stanno bene dopo quelle precedenti. Non hai cercato in un archivio di gatti reali per verificare dove si siedono di solito. Hai generato una continuazione plausibile.
L’AI fa lo stesso, su scala enormemente più grande. Ha “letto” miliardi di testi durante l’addestramento. Ha imparato quali parole tendono a seguire altre parole, quali strutture sono tipiche di certi contesti. Quando le fai una domanda, genera la sequenza di parole più probabile.
Questo funziona benissimo per molte cose. Scrivere email, spiegare concetti, riassumere documenti. Non richiede che l’AI “sappia” fatti specifici — richiede che produca testo coerente.
Il problema emerge quando chiedi fatti precisi. Nomi, date, citazioni, riferimenti. L’AI non dice “non lo so”. Continua a generare, riempiendo i vuoti con combinazioni plausibili.
Dove i rischi sono più alti
Alcuni contesti sono più pericolosi di altri.
Ricerche specialistiche. Chiedi una bibliografia su un argomento di nicchia e otterrai paper con autori reali, titoli credibili, riviste esistenti. Alcuni di quei paper non esistono. L’AI ha combinato elementi veri in configurazioni false.
Informazioni su persone poco note. Non celebrità, non sconosciuti — quella zona grigia dove l’AI ha qualche informazione. Il risultato mescola fatti verificabili e dettagli inventati, senza segnalare quali sono quali.
Numeri e statistiche. “Il 43% delle aziende…” Ha la forma di un dato. Potrebbe essere vero o completamente inventato. L’AI non sta citando una fonte — sta generando un numero che suona credibile.
Fatti recenti. I modelli hanno una data di addestramento. Tutto ciò che è successo dopo quella data non lo “sanno” — possono solo ricostruirlo da pattern generali.
Il test che puoi fare subito
Prova questo esperimento. Chiedi all’AI informazioni su te stesso, sulla tua azienda, su un progetto che conosci bene. Qualcosa di cui tu sei l’esperto.
Noterai due cose. Primo: alcune informazioni saranno corrette. Secondo: altre saranno plausibili e completamente sbagliate. L’AI non distingue le due categorie. Tu sì, perché conosci l’argomento.
Ora pensa a tutte le volte che hai chiesto informazioni su argomenti che non conosci. Come avresti potuto distinguere il vero dal verosimile?
La regola d’oro
L’AI genera, non verifica.
Qualsiasi fatto prodotto da un modello linguistico va trattato come ipotesi da confermare. Non come informazione verificata. Non come fonte affidabile. Come punto di partenza per una ricerca, non come punto di arrivo.
Questo non significa che l’AI sia inutile. Significa che è uno strumento con caratteristiche specifiche. Eccellente per elaborare materiale che le fornisci tu. Eccellente per generare bozze, strutturare idee, esplorare possibilità. Inaffidabile per fatti specifici che non puoi verificare.
La differenza tra usare l’AI bene e usarla male sta tutta qui: sapere quando fidarsi e quando controllare.
La domanda da portare con te
La prossima volta che l’AI ti dà una risposta precisa, sicura, dettagliata, fermati un momento.
Chiediti: come fa a saperlo?
Se la risposta è “ha letto qualcosa del genere da qualche parte”, probabilmente va bene. Se la risposta è “dovrebbe aver cercato questo fatto specifico”, sei in zona di rischio.
L’AI non mente. Non sa di non sapere. Sta a te ricordarlo per entrambi.
Altro plauso per la lezione odierna, grazie.