Risposte dell’IA con citazioni: come verificare una risposta sui propri documenti

Per verificare una risposta dell’IA basata su documenti, consideri ogni citazione come una promessa da mettere alla prova: colleghi ogni frase al passaggio che cita, apra quel passaggio e controlli che dica davvero la stessa cosa, con gli stessi numeri, le stesse condizioni e le stesse eccezioni. Con un po’ di pratica bastano pochi minuti per risposta. In questa guida trova un metodo in cinque passi, un caso pratico con passaggi numerati, i segnali d’allarme delle citazioni inventate e i casi in cui conviene leggere direttamente i passaggi.

Perché le citazioni contano quando l’IA risponde sui documenti

Uno strumento di domande e risposte sui documenti risponde a partire da un insieme definito di file: regolamento aziendale, contratto integrativo, manuali di prodotto, guide dell’Agenzia delle Entrate o dell’INAIL. Per ogni domanda recupera alcuni passaggi pertinenti e chiede a un modello linguistico di scrivere la risposta basandosi su di essi. Il percorso completo è spiegato in come funziona il RAG, passo dopo passo.

La citazione è ciò che distingue questa risposta da quella di un assistente generalista: Le offre una strada per tornare al testo e giudicare sulle prove, non sul tono sicuro della risposta. Però dimostra soltanto che al modello è stato mostrato un passaggio. Non garantisce che l’abbia letto bene, che abbia conservato le condizioni legate alla regola, né che non abbia aggiunto qualcosa a memoria. Chi progetta questi sistemi riduce gli errori con un ancoraggio rigoroso e la possibilità di non rispondere (ne abbiamo parlato in come ridurre le allucinazioni dell’IA). Questo articolo guarda dall’altra parte: quella di chi legge e deve decidere se può agire sulla base della risposta.

Verificare una risposta dell’IA in cinque passi

1. Riformuli la domanda. Prima di leggere la risposta, scriva in una riga che cosa Le serve sapere. Poi controlli che la risposta tratti proprio quella domanda e non una vicina, più facile da trovare nei documenti.
2. Associ ogni affermazione alla sua citazione. Frase per frase, individui i rimandi [1], [2] e così via. Annoti le frasi senza rimando: sono passaggi di collegamento oppure aggiunte del modello.
3. Apra il passaggio e lo legga per intero. Non si fermi alle parole evidenziate. Confronti importi, unità, date, verbi (deve, può, è consigliato) e condizioni.
4. Identifichi il documento di origine. Quale file, quale versione, quale data, quale emittente? Una citazione esatta da una circolare superata resta una risposta sbagliata.
5. Cerchi ciò che manca. Uno specialista aggiungerebbe un’eccezione, una soglia, una regola diversa per il part-time o secondo il CCNL applicato? Se sì, faccia una domanda di approfondimento mirata o consulti direttamente i passaggi.

I passi 2 e 3 fanno emergere la maggior parte dei problemi. I passi 4 e 5 intercettano quelli più sottili: risposte fedeli a un passaggio ma incomplete o non aggiornate.

Caso pratico: leggere una risposta con passaggi numerati

Prendiamo la base documentale interna di una PMI immaginaria. Una dipendente chiede: «Mi rimborsano la connessione internet se lavoro in smart working?». Lo strumento risponde:

Sì. Chi lavora in smart working riceve un contributo di 20 euro al mese per la connessione [1]. Viene pagato in busta paga [2]. Può inoltre ordinare una sedia ergonomica fino a 250 euro [3].Risposta generata (esempio immaginario)

I tre passaggi mostrati sotto dicono questo. Passaggio [1], accordo aziendale sul lavoro agile (aggiornato a gennaio 2026): «I dipendenti in lavoro agile per almeno due giorni a settimana, previa autorizzazione del responsabile, ricevono un contributo forfettario di 20 euro mensili per i costi di connessione». Passaggio [2], FAQ sulle buste paga: «I contributi ricorrenti sono liquidati con la retribuzione del mese successivo». Passaggio [3], guida alle dotazioni (2023): «Il personale che lavora in sede può richiedere attrezzature ergonomiche ai servizi generali».

La prima frase è la più insidiosa: l’importo è corretto, quindi sembra verificata, ma i requisiti sono spariti. Chi lavora da casa un giorno a settimana leggerebbe «Sì» e sbaglierebbe. La terza mostra una citazione fuori bersaglio: il passaggio tratta un tema affine (le dotazioni), il rimando sembra plausibile, ma non parla né di smart working né di 250 euro. Finché nessun passaggio mostra quella cifra, la consideri inventata.

Guardi anche le date: la guida del 2023 è precedente all’accordo del 2026. Anche se avesse indicato un budget, bisognerebbe verificare che sia ancora valido.

I segnali d’allarme delle citazioni inventate o fuorvianti

• Un numero che non compare nel passaggio citato. Importi, percentuali, scadenze e numeri di articolo devono ritrovarsi alla lettera. Se non ci sono, non hanno fonte.
• Il tema giusto, la regola sbagliata. Il passaggio riguarda lo stesso ambito ma un’altra categoria o situazione: dipendenti o somministrati, sede o domicilio, un CCNL o un altro.
• Un linguaggio più netto della fonte. «Deve» nella risposta, «può» o «è consigliato» nel passaggio; spariscono i «di norma» e i «salvo che».
• Eccezioni dimenticate. La regola c’è, la condizione «solo se» no.
• Tutto rimanda a [1]. Un solo passaggio usato come riferimento generico per più affermazioni scollegate.
• Virgolette intorno a un testo che non esiste. Una citazione letterale deve coincidere esattamente; una parafrasi tra virgolette è sospetta.
• Leggi o documenti assenti dai passaggi. Se la risposta cita un articolo del D.Lgs. 81/2008 che nessun passaggio contiene, viene dalla memoria del modello.
• Fonti senza titolo né data, oppure una versione vecchia accanto a una più recente.
• Uno strumento che non dice mai «non lo so». Se risponde con sicurezza a tutto, anche fuori dai suoi documenti, sta colmando le lacune da solo.

Modalità passaggi o risposta redatta: quando leggere le fonti da sé

Alcuni strumenti permettono di saltare la risposta redatta e ottenere solo gli estratti recuperati. Per certe domande è la strada più sicura.

Su Kopik ogni base di conoscenza offre entrambe le possibilità. La risposta predefinita è scritta solo a partire dai passaggi recuperati, con citazioni numerate, e segnala quando la base non contiene la risposta. La modalità passaggi restituisce soltanto gli estratti pertinenti, senza risposta redatta. Via MCP gli strumenti sono `ask_base` (risposta e passaggi di origine numerati) e `search_base` (solo passaggi), allo stesso prezzo: scegliere il testo originale per un controllo delicato non costa nulla in più. La documentazione per sviluppatori spiega come collegarsi.

Costruire la fiducia di chi usa lo strumento

Se mette uno strumento di domande e risposte a disposizione dei colleghi o dei clienti, renda la verifica naturale invece di affidarsi alla buona volontà di ciascuno:

• Mostri i passaggi accanto alla risposta, con nome e data del documento, non solo un numero.
• Faccia di «non è nei documenti» una risposta normale. Ci si fida di più di uno strumento che si è visto rifiutare.
• Rimuova le versioni superate, così la regola vecchia e quella nuova non si contraddicono.
• Controlli un campione ogni mese: dieci domande reali, i cinque passi e la correzione dei documenti dove le risposte non reggono.
• Stabilisca dove decide una persona. In ambito HR, legale o di sicurezza sul lavoro, la risposta è un punto di partenza. L’AI Act prevede obblighi di trasparenza per alcuni sistemi di IA, e il Garante Privacy pubblica indicazioni utili quando sono coinvolti dati personali.

Per esercitarsi, interroghi una base pubblica come EU AI Act essentials, con i testi ufficiali in inglese: faccia una domanda su un obbligo preciso e verifichi ogni frase della risposta con i passaggi numerati.

Checklist prima di agire su una risposta

• La risposta tratta esattamente la mia domanda.
• Ogni numero, data e obbligo ha una citazione.
• Ho ritrovato ogni numero chiave nel passaggio citato.
• Le condizioni e le eccezioni del passaggio compaiono nella risposta.
• Il documento di origine è aggiornato e proviene dall’emittente giusto.
• La risposta non cita norme o documenti assenti dai passaggi.