Come ridurre le allucinazioni dell’IA con risposte basate sulle fonti

Per ridurre le allucinazioni dell’IA bisogna smettere di chiederle di rispondere a memoria. Prima si recuperano i passaggi pertinenti da documenti affidabili, poi si obbliga il modello a rispondere solo sulla base di quelli, citandoli, e gli si consente di dire "non lo so" quando le fonti non coprono la domanda. Infine si misura il risultato con un piccolo insieme di domande di cui conosce già la risposta. Questa guida spiega perché l’IA inventa e come applicare ciascuna di queste protezioni.

Perché l’intelligenza artificiale ha le allucinazioni?

Un modello linguistico non consulta alcun archivio quando risponde. Genera, parola dopo parola, la continuazione più probabile della domanda in base agli schemi appresi durante l’addestramento. Nella maggior parte dei casi la risposta più probabile è anche quella giusta, ed è per questo che sembra così competente. Quando non lo è, si ottiene un’allucinazione: un’affermazione falsa, scritta con totale sicurezza.

Il rischio aumenta molto in alcune situazioni riconoscibili:

• La conoscenza manca. Le procedure interne della Sua azienda, il CCNL applicato, una circolare recente dell’Agenzia delle Entrate o la scheda tecnica di un fornitore non sono mai entrati nei dati di addestramento.
• Serve un dettaglio preciso. Importi, scadenze, articoli di legge, numeri di sentenza: molti valori simili sembrano ugualmente plausibili.
• Non c’è via d’uscita. I modelli sono addestrati per essere utili. Senza un permesso esplicito di ammettere l’incertezza, preferiscono dare comunque una risposta.
• La domanda è ambigua. Il modello sceglie un’interpretazione senza dirlo e la tratta con piena sicurezza.
• Il ragionamento è lungo. Un piccolo errore iniziale si trascina fino alla conclusione e si amplifica.

Il punto chiave: l’allucinazione è una conseguenza del modo in cui il testo viene generato. I modelli più recenti sbagliano meno, ma nessuno è infallibile. La soluzione va quindi cercata nel sistema costruito attorno al modello.

Che cos’è una risposta basata sulle fonti?

Una risposta basata sulle fonti (in inglese "grounded answer") viene scritta a partire da passaggi forniti al momento della domanda, non dalla memoria del modello. Il modello smette di essere un oracolo e diventa un lettore attento che riassume prove. È il principio della generazione aumentata dal recupero, nota come RAG.

Questo ancoraggio cambia il modo di sbagliare. Un assistente senza fonti che non conosce la risposta la inventa. Un assistente con fonti che non trova nulla di pertinente può essere istruito a dirlo, e ogni affermazione che fa rimanda a un passaggio che chiunque può rileggere.

Cinque livelli di protezione contro le allucinazioni

Nessun trucco isolato basta. Funziona invece una sovrapposizione di livelli, in cui ciascuno intercetta ciò che il precedente ha lasciato passare.

1. Fonti pulite e aggiornate

Una risposta basata sulle fonti vale quanto le sue fonti. Elimini le versioni superate e i duplicati, verifichi che i PDF contengano testo vero e non scansioni, e indichi data e ambito all’inizio di ogni documento. Se convivono due versioni dello stesso regolamento interno, l’assistente potrebbe citare quella sbagliata con piena convinzione.

2. Una ricerca che trova il passaggio giusto

Molte presunte allucinazioni sono in realtà errori di ricerca: il passaggio corretto esisteva, ma non è mai arrivato al modello. Una ricerca ibrida, che unisce parole esatte e un ampliamento semantico della domanda, trova sia riferimenti precisi ("modello F24") sia domande formulate liberamente. Dimensione dei passaggi, sovrapposizione e numero di risultati recuperati contano parecchio.

3. Un’istruzione rigorosa: solo le fonti

L’istruzione di risposta deve essere chiara: usare solo i passaggi forniti, citare il numero del passaggio dopo ogni affermazione, non aggiungere conoscenze generali. Va anche precisato cosa fare se due passaggi si contraddicono (segnalarli entrambi, con le date) o se coprono solo una parte della domanda (rispondere su quella parte e indicare la lacuna).

4. Citazioni per ogni affermazione

Le citazioni svolgono due compiti. Tengono il modello aderente al testo, perché ogni frase deve rimandare a qualcosa. E permettono al lettore di verificare in pochi secondi. Una buona citazione indica un passaggio preciso, non solo il titolo di un documento. Un’affermazione importante senza citazione merita sospetto.

5. Il diritto di non rispondere

È il livello più spesso dimenticato. Se i passaggi non rispondono alla domanda, la risposta corretta è "le fonti non trattano questo punto", magari accompagnata da ciò che invece coprono. Lo scriva nell’istruzione e conti un rifiuto giustificato come un successo nei test. Un assistente costretto a rispondere sempre finirà per inventare su una parte delle domande.

Valutare le allucinazioni prima del rilascio

Qualche dimostrazione riuscita prova ben poco. Un piccolo insieme di test, ripetibile, dice molto di più:

1. Raccolga da 30 a 50 domande reali dei colleghi o dei clienti, ciascuna con la risposta attesa e la sezione del documento che la contiene.
2. Aggiunga da 10 a 15 domande a cui i documenti non rispondono. L’unico risultato corretto è un rifiuto chiaro.
3. Verifichi la ricerca separatamente. Il passaggio atteso compare tra quelli recuperati? Se no, intervenga su documenti o ricerca prima di toccare l’istruzione.
4. Valuti ogni risposta secondo tre criteri: corretta, interamente sostenuta dalle citazioni, rifiuto adeguato quando la domanda esce dal perimetro.
5. Ripeta il test dopo ogni modifica a documenti, suddivisione in passaggi, impostazioni di ricerca o istruzioni.

Due indicatori contano più di tutti: la quota di risposte con almeno un’affermazione non sostenuta da alcun passaggio citato, e la quota di domande fuori perimetro che hanno ricevuto una risposta inventata invece di un rifiuto. Un modello linguistico può aiutare a valutare grandi volumi, ma una persona deve rivedere un campione, soprattutto gli errori.

Cosa l’ancoraggio alle fonti non risolve

• Errori di lettura. Il modello può ancora copiare male un numero o fondere due passaggi. Le citazioni rendono l’errore individuabile, non impossibile.
• Fonti sbagliate. Un documento superato produce una risposta fedelmente errata.
• Domande su tutto l’archivio. "Elenchi tutti i contratti con rinnovo tacito" richiede di leggere tutto, non di recuperare pochi passaggi.
• Fiducia eccessiva. Una risposta con citazioni sembra autorevole. Per le decisioni importanti qualcuno deve aprire la fonte.

Risposte basate sulle fonti senza costruire l’infrastruttura

Fare tutto in proprio significa estrazione del testo, suddivisione in passaggi, indice di ricerca, istruzioni e un ciclo di valutazione. Per molte PMI è un impegno sproporzionato. Kopik gestisce questa catena: Lei carica file PDF, Word, testo o Markdown, e Kopik li estrae, li suddivide e li indicizza per una ricerca ibrida. Le risposte vengono scritte solo a partire dai documenti, con i passaggi citati e numerati, e l’assistente lo dice quando la base non contiene la risposta.

La modalità "passaggi" restituisce solo gli estratti, senza risposta redatta, utile per gli agenti IA che preferiscono ragionare da sé. Può creare la Sua base di conoscenza gratuitamente, tenerla privata o pubblicarla nel catalogo delle basi, e interrogarla dal sito, tramite API REST o con un server MCP compatibile con Claude, Cursor o ChatGPT, come spiega la documentazione per sviluppatori.

Lista di controllo

• I documenti sono aggiornati, senza duplicati e contengono testo vero.
• La ricerca è stata testata separatamente con domande reali.
• L’istruzione dice "solo questi passaggi" e "cita ogni affermazione".
• Il rifiuto è consentito e conta come successo quando è corretto.
• Un insieme di test con domande fuori perimetro viene eseguito dopo ogni modifica.