Le allucinazioni dell’IA non riguardano solo il rischio di ricevere informazioni false, ma anche il modo in cui cerchiamo, verifichiamo e rielaboriamo le informazioni. Tra contenuti sintetici, fonti autoreferenziali e delega cognitiva, il problema diventa sempre più complesso.
Tra forma e verità
Cercare informazioni online è sempre più semplice: basta formulare una domanda e affidarsi a un’intelligenza artificiale per ottenere una risposta apparentemente completa e coerente. Ma cosa succede quando la risposta è convincente, ben scritta e completamente sbagliata? È proprio qui che emergono le cosiddette allucinazioni dell’IA, uno dei rischi più insidiosi legati all’uso degli strumenti di intelligenza artificiale per la ricerca e l’accesso alle informazioni.
Un modello linguistico genera risposte sulla base dei pattern appresi durante l’addestramento e delle informazioni presenti nel contesto della conversazione. Poiché il suo obiettivo è produrre testo coerente e plausibile, può talvolta fornire informazioni inesatte o non verificabili, ad esempio attribuendo erroneamente una fonte, confondendo date o formulando collegamenti apparentemente plausibili ma non corretti.
La ricerca sul web può aiutare a verificare le risposte dell’IA, ma non elimina automaticamente il rischio di errori. Per individuare eventuali informazioni inesatte, l’utente deve comunque confrontare le fonti e valutarne l’affidabilità, dedicando più tempo e attenzione rispetto alla semplice consultazione della risposta generata dall’IA.
Quando l’IA si autoalimenta
Il problema diventa ancora più complesso quando l’IA produce contenuti che finiscono sul web e altre IA li utilizzano come fonte.
È un circuito potenzialmente autoreferenziale: i sistemi di intelligenza artificiale generano informazioni, queste informazioni vengono indicizzate, nuovi sistemi le recuperano e altri modelli possono utilizzarle per produrre nuovi contenuti.
La ricerca sul cosiddetto model collapse ha evidenziato che l’addestramento ricorsivo su contenuti generati artificialmente può portare i modelli a perdere progressivamente informazioni sulla distribuzione originale dei dati. Nel 2026, una ricerca presentata alla ACM Web Conference ha inoltre descritto il fenomeno come “retrieval collapse”: l’eccessiva presenza di contenuti generati dall’IA può contaminare i sistemi di ricerca e recupero delle informazioni, riducendo la varietà delle fonti.
Le conseguenze cognitive
In questo scenario, il problema non è soltanto tecnologico, ma anche cognitivo. Affidarsi a una risposta automatica significa delegare una parte del processo di ricerca, selezione, confronto e verifica delle informazioni. Se questa delega diventa abituale e poco consapevole, può ridurre il coinvolgimento attivo dell’utente, limitare l’esercizio del pensiero critico e favorire una minore attenzione ai passaggi attraverso cui si arriva a una conclusione.
Il rischio è quello di accettare più facilmente una risposta perché appare chiara, coerente e ben formulata, senza sottoporla allo stesso livello di verifica che si applicherebbe a una fonte tradizionale. Nel tempo, un uso eccessivamente passivo di questi strumenti può inoltre indebolire l’abitudine e la capacità di cercare informazioni in autonomia, confrontare punti di vista diversi, ricordare ciò che si è appreso e costruire un proprio percorso di ragionamento.
La sfida del futuro potrebbe essere paradossale: non si tratterà soltanto di evitare che l’IA generi o contribuisca a diffondere informazioni false, ma anche di preservare quelle competenze cognitive che ci permettono di analizzare, selezionare, interpretare e rielaborare criticamente le informazioni che riceviamo.
Tecnostress e trasformazione digitale: come proteggere il benessere organizzativo e sviluppare competenze manageriali. Con i nostri servizi offriamo consulenza e formazione personalizzata su organizzazione, HR, benessere organizzativo e cultura della sicurezza, basata su analisi dei bisogni. Esplora le nostre soluzioni!
