Quello che l'intelligenza artificiale non ci dice

Il problema dei pezzi mancanti

Molti usano l’intelligenza artificiale e prendono per buono quello che esce. I più attenti invece controllano: verificano le citazioni, ricontrollano le date, cercano le fonti. Anche loro, però, si chiedono molto di rado che cosa la risposta ha lasciato fuori. Eppure la parte più interessante forse sta proprio lì.

Un errore si vede, un buco no

Un errore è una presenza. Sta lì, scritto nel testo. Posso confrontarlo con una fonte, posso sospettare, posso chiedere a qualcuno.

Una mancanza è un’assenza, e per accorgermene devo già sapere che cosa dovrebbe esserci. Se mi dai una ricetta del pane senza lievito, lo vedo solo se so già che il pane lievita. Chi la ricetta non la conosce legge un testo ordinato, completo, convincente.

Uno studio del 2026, in un ambito tecnico circoscritto (come i modelli compilano elenchi e chiavi di correzione), arriva a una conclusione simile (Chen et al., Judging Is Not Enumerating, 2026). L’errore più frequente è l’omissione. E quando altri modelli fanno da revisori, trovano le aggiunte sbagliate molto più spesso dei pezzi mancanti, perché ciò che manca non lascia traccia.

Chi sa lo sente, chi non sa no

Se chiedi all’AI qualcosa sul tuo mestiere, te ne accorgi subito: manca un passaggio, è sparita l’obiezione più ovvia, un caso particolare è stato trattato come regola generale. Lo senti perché hai la mappa.

Se la stessa domanda riguarda qualcosa che non conosci, il testo ti sembra a posto. E qui la fluidità lavora contro di noi.

Certo, anche molte persone parlano con la stessa sicumera, anche quando non sanno. Con le persone però impariamo a regolarci: se uno molto sicuro di sé ci racconta una cosa sbagliata e ce ne accorgiamo, la volta dopo gli crediamo di meno. Col tempo sappiamo di chi fidarci, e su che cosa.

Con l’AI, a mio avviso, questo meccanismo si inceppa. Gli errori sono meno frequenti e nascono da come funziona il sistema, quindi sono sparsi un po’ ovunque: un buco scoperto su un tema non ci mette in guardia sul tema successivo. E pesa un’idea che ci è stata raccontata a lungo, quella delle macchine che non sbagliano. La sicurezza di una persona la mettiamo alla prova; quella di una macchina tendiamo a prenderla per una garanzia.

Così un testo che scorre bene, che torna, che ha un inizio e una fine ci dà l’impressione di essere completo.

La psicologia conosce da tempo un fenomeno vicino, l’illusione di profondità esplicativa: tendiamo a credere di capire un argomento meglio di quanto lo capiamo davvero (Rozenblit e Keil, The misunderstood limits of folk science, 2002). Una rassegna recente sull’uso di ChatGPT in classe suggerisce che la chiarezza delle spiegazioni dell’AI possa rafforzare questa impressione: lo studente scambia la facilità di lettura per comprensione propria (Kumar et al., Fluency Illusion, 2026).

Ne esce un paradosso. Chi ha più bisogno dell’AI, cioè chi non sa, è il meno attrezzato per accorgersi di cosa manca.

Da dove vengono i silenzi

Le ragioni sono diverse, e si sommano.

1. Ha letto solo ciò che è digitalizzato. I modelli imparano dai testi disponibili in rete. Resta fuori una parte enorme della conoscenza umana: archivi su carta, memoria orale, saperi di mestiere mai scritti, documenti locali. E anche ciò che è online è sbilanciato verso l’inglese e il mondo anglosassone: delle oltre 7.000 lingue parlate nel mondo, solo una piccola parte dispone di tecnologie linguistiche, e tutte le misure disponibili confermano lo squilibrio (Grützner-Zahn et al., Surveying the Technology Support of Languages, 2024). Ne esce una carta con grandi zone bianche e nessuna legenda che le segnali.

2. Qualcuno ha scelto cosa togliere. I dati vengono filtrati prima dell’addestramento, e le risposte passano poi da sistemi di protezione. Un audit recente su alcuni di questi filtri ha trovato che segnalano e rimuovono in modo sproporzionato i riferimenti ad alcuni gruppi sociali (Stranisci et al., Epistemic Injustice in Language Models, 2026). Sono scelte progettuali, e il loro risultato è un’assenza nel testo che leggiamo.

3. È addestrata a piacere. I modelli vengono rifiniti anche con il giudizio di persone che premiano le risposte gradite. Ne deriva la cosiddetta compiacenza, o sicofanzia: la tendenza ad assecondare chi scrive. Una recente rassegna della ricerca distingue le forme esplicite (dare ragione su un’affermazione falsa) da quelle implicite, come l’inquadramento selettivo e l’omissione di alternative, e osserva che gli studi si sono occupati soprattutto delle prime (Ye et al., What Counts as AI Sycophancy?, 2026). La mia lettura è che proprio le forme implicite siano le più insidiose: la compiacenza può tacere l’obiezione che ti avrebbe dato fastidio senza scrivere nulla di falso.

4. Non ti dice dove non sa. I modelli tendono a sopravvalutare la propria sicurezza, e la adattano poco alla difficoltà della domanda (Xu et al., Do Language Models Mirror Human Confidence?, 2025). Il “qui non sono sicuro”, che sarebbe il segnale più utile, spesso manca.

5. Anche quando sa, l’elenco esce incompleto. Nello studio sulle omissioni citato sopra, ai modelli veniva data una regola semplice, per esempio “parole con una doppia”. Quando dovevano trasformarla in un programma che la applica, ci riuscivano quasi sempre. Quando dovevano elencare a mano tutte le parole che la soddisfano, ne perdevano molte. La regola c’era, l’inventario no.

Un esempio quotidiano: chiedi all’AI la storia di un paese di confine. Ti arriva un racconto scorrevole, fatto di ciò che è finito online. I registri parrocchiali, i racconti dei vecchi, i documenti in una lingua minoritaria non ci sono, e nulla nel testo te lo dice.

L’occhio si allena, e anche si perde

Anche un manuale o un consulente brillante omettono. La differenza sta nella scala e nella forma: la stessa lacuna si ripete identica per milioni di persone, con la stessa sicurezza.

C’è poi un effetto più lento. L’occhio che vede i buchi si forma facendo e guardando. Chi delega all’AI proprio la fase in cui si impara a vederli rischia di non formarlo mai, oppure di perderlo.

Uno studio osservazionale retrospettivo, condotto in quattro centri in Polonia, ha rilevato che dopo un periodo di uso dell’AI il tasso di individuazione degli adenomi (un tipo di polipo) nelle colonscopie eseguite senza AI era sceso dal 28% al 22% circa (Budzyń et al., Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy, 2025). Gli autori sono prudenti: l’esposizione continua all’AI, scrivono, potrebbe ridurre questa capacità. Il segnale indica però che nemmeno l’esperto resta al riparo per sempre.

Che cosa si può fare

Nessun trucco elimina il problema, ma qualche abitudine aiuta.

• Chiedi la mappa prima della risposta. “Quali aspetti deve coprire una buona risposta a questa domanda?” Poi guarda quali mancano.
• Chiedi l’obiezione migliore e il punto di vista di chi la pensa diversamente.
• Chiedi dove è debole. “Su quali parti di questo tema hai poche fonti, o fonti sbilanciate?”
• Confronta con qualcosa che non è un modello: un libro, un archivio, una persona del posto, un collega che conosce la materia.
• Tieni vicino qualcuno che sa. Su ciò che conta, la verifica resta un lavoro umano.

Una cautela: se chiedi all’AI “che cosa hai omesso?”, la risposta sarà un’altra lista fluida, che rischia di richiudere il buco invece di aprirlo. La mappa va sempre confrontata con qualcosa di esterno.

Imparare a sentire il silenzio

Abbiamo imparato a smascherare le bugie dell’AI. Resta da imparare a sentirne i silenzi. Una domanda da portarsi dietro, ogni volta che una risposta sembra perfetta: che cosa dovrebbe esserci qui, e non c’è?

E a voi è capitato? Una risposta dell’AI che sembrava perfetta, finché non vi siete accorti di un pezzo che mancava. Raccontatelo nei commenti: gli esempi concreti aiutano tutti a sviluppare l’occhio.

Bibliografia

• Budzyń K., Romańczyk M. et al., Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study, The Lancet Gastroenterology & Hepatology, 2025;10(10):896-903.
• Chen W., Chen J., Lin Z., Long P., Vong C. M., Judging Is Not Enumerating: Silent Omissions in LLM-Authored Acceptable Sets, arXiv, 2026 (preprint).
• Grützner-Zahn A., Gaspari F., Giagkou M., Hegele S., Way A., Rehm G., Surveying the Technology Support of Languages, Proceedings of TDLE @ LREC-COLING, Torino, 2024, pp. 1-17.
• Kumar S. et al., Fluency Illusion: A Review on Influence of ChatGPT in Classroom Settings, Information, 2026;17(3):299.
• Rozenblit L., Keil F., The misunderstood limits of folk science: an illusion of explanatory depth, Cognitive Science, 2002.
• Stranisci M. A., Pranav A., Damiano R., Hardmeier C., Lauscher A., Epistemic Injustice in Language Models: An Audit of Pretraining Filters and Guardrails, arXiv, 2026 (preprint).
• Xu C., Wen B., Han B., Wolfe R., Wang L. L., Howe B., Do Language Models Mirror Human Confidence? Exploring Psychological Insights to Address Overconfidence in LLMs, Findings of ACL, 2025.
• Ye et al., What Counts as AI Sycophancy? A Taxonomy and Expert Survey of a Fragmented Construct, arXiv, 2026 (preprint).