Réduire les hallucinations de l’IA grâce aux réponses sourcées

Pour réduire les hallucinations de l’IA, il faut cesser de lui demander de répondre de mémoire. On recherche d’abord les passages pertinents dans des documents de confiance, on impose au modèle de ne répondre qu’à partir d’eux en les citant, et on l’autorise à dire « je ne sais pas » quand la source manque. Il reste ensuite à mesurer le résultat avec quelques questions dont vous connaissez la réponse. Ce guide détaille pourquoi l’IA invente et comment mettre en place chacune de ces protections.

Pourquoi une IA « hallucine »-t-elle ?

Un modèle de langage ne consulte aucune base de données quand il répond. Il génère, mot après mot, la suite de texte la plus plausible au regard de votre question et de ce qu’il a appris pendant son entraînement. La réponse la plus plausible est souvent la bonne, d’où l’impression de compétence. Quand ce n’est pas le cas, on obtient une hallucination : une affirmation fausse, rédigée avec aplomb.

Certaines situations font nettement grimper le risque :

• La connaissance n’existe pas dans le modèle. Vos procédures internes, votre convention collective, un barème modifié le mois dernier ou une doctrine administrative récente n’ont jamais figuré dans ses données d’entraînement.
• La question porte sur un détail précis. Montants, seuils, dates, numéros d’article du Code du travail, références de jurisprudence : beaucoup de valeurs voisines semblent également plausibles.
• Le modèle n’a pas d’issue de secours. Réglé pour être serviable, il préfère produire une réponse que reconnaître son ignorance, sauf consigne explicite.
• La question est ambiguë. Il choisit une interprétation sans le dire et y répond avec assurance.
• Le raisonnement est long. Une petite erreur initiale se propage et s’amplifie jusqu’à la conclusion.

Retenez ceci : l’hallucination découle du mode de génération lui-même. Les modèles récents se trompent moins, mais aucun ne se trompe jamais. La solution se trouve donc dans le système construit autour du modèle.

Qu’est-ce qu’une réponse sourcée ?

Une réponse sourcée (on parle aussi de réponse « ancrée ») est rédigée à partir de passages fournis au moment de la question, et non de la mémoire du modèle. Celui-ci devient un lecteur qui synthétise des preuves, plus un oracle. C’est le principe de la génération augmentée par récupération, présenté dans notre guide qu’est-ce que le RAG.

L’ancrage change la nature de l’échec. Un assistant non ancré qui ignore la réponse l’invente. Un assistant ancré qui ne trouve rien de pertinent peut être tenu de le dire, et chaque affirmation qu’il produit renvoie à un passage que vous pouvez relire.

Les cinq leviers qui réduisent les hallucinations

Aucune astuce isolée ne suffit. Ce qui fonctionne, c’est un empilement de protections, chacune rattrapant ce que la précédente a laissé passer.

1. Des sources propres et à jour

Une réponse sourcée ne vaut que par ses sources. Supprimez les versions périmées et les doublons, vérifiez que vos PDF contiennent du vrai texte (pas des scans), indiquez la date et le périmètre en tête de chaque document. Notre méthode pour préparer ses documents pour l’IA détaille ces points.

2. Une recherche qui trouve le bon passage

Beaucoup d’« hallucinations » sont en réalité des ratés de recherche : le bon passage existait, mais il n’est jamais parvenu au modèle. Une recherche hybride, qui combine mots exacts et élargissement sémantique de la question, attrape à la fois les références précises (« article L3141-3 ») et les questions formulées librement. Taille des passages, chevauchement, nombre de résultats : tout compte, comme l’explique le fonctionnement d’un pipeline RAG.

3. Une consigne stricte : uniquement les sources

La consigne de réponse doit dire clairement : n’utilisez que les passages fournis, citez le numéro du passage après chaque affirmation, n’ajoutez aucune connaissance générale. Précisez aussi la conduite à tenir quand deux passages se contredisent (les signaler, avec leurs dates) ou ne couvrent qu’une partie de la question (répondre sur cette partie, signaler le reste).

4. Des citations pour chaque affirmation

Les citations jouent deux rôles. Elles obligent le modèle à rester collé au texte, puisque chaque phrase doit renvoyer quelque part. Et elles permettent au lecteur de vérifier en quelques secondes. Une bonne citation pointe vers un passage précis, pas seulement vers un titre de document.

5. Le droit de refuser

C’est le levier le plus souvent oublié. Si les passages ne répondent pas, la bonne réponse est « les sources ne traitent pas ce point », idéalement complétée par ce qu’elles couvrent. Inscrivez cette possibilité dans la consigne et comptez un refus justifié comme un succès lors des tests. Un assistant obligé de toujours répondre inventera forcément sur une partie des questions.

Évaluer les hallucinations avant la mise en service

Trois démonstrations réussies ne prouvent rien. Un petit jeu d’évaluation, rejoué à chaque modification, prouve beaucoup plus :

1. Rédigez 30 à 50 vraies questions posées par vos équipes ou vos clients, avec la réponse attendue et la section qui la contient.
2. Ajoutez 10 à 15 questions hors sujet auxquelles vos documents ne répondent pas : le seul bon résultat est un refus clair.
3. Testez la recherche à part. Le passage attendu figure-t-il parmi les résultats ? Sinon, corrigez les documents ou la recherche avant de toucher à la consigne.
4. Notez chaque réponse selon trois critères : exacte, entièrement appuyée par ses citations, refus correct quand la question sort du périmètre.
5. Rejouez le jeu après chaque changement de documents, de découpage, de réglages ou de consigne.

Deux indicateurs comptent avant tout : la part de réponses contenant une affirmation qu’aucun passage cité ne soutient, et la part de questions hors périmètre ayant reçu une réponse inventée au lieu d’un refus. Un modèle de langage peut aider à noter en volume, mais un humain doit relire un échantillon, surtout les échecs.

Ce que l’ancrage ne corrige pas

• La mauvaise lecture. Le modèle peut encore recopier un chiffre de travers ou fusionner deux passages. Les citations rendent l’erreur détectable, pas impossible.
• Les sources fausses. Un document périmé produira une réponse fidèlement fausse.
• Les questions sur tout le corpus. « Listez tous les contrats avec tacite reconduction » exige de tout lire, pas de retrouver quelques passages.
• L’excès de confiance. Une réponse citée paraît autoritaire. Pour une décision à enjeu, quelqu’un doit ouvrir la source.

Des réponses sourcées sans construire le pipeline

Tout monter soi-même suppose un extracteur, un découpage, un index, une consigne et une boucle d’évaluation. Si votre besoin est d’obtenir des réponses fiables sur vos propres documents, Kopik s’occupe de la chaîne : vous déposez des PDF, des fichiers Word, du texte ou du Markdown, Kopik les extrait, les découpe et les indexe pour une recherche hybride. Les réponses sont rédigées à partir des documents seulement, avec les passages cités et numérotés, et l’assistant le dit quand la base ne contient pas la réponse.

Le mode « passages » renvoie les extraits bruts sans réponse rédigée, ce qui convient aux agents IA qui préfèrent raisonner eux-mêmes. Pour voir le résultat sur un sujet concret, interrogez par exemple la base Congés payés et temps de travail dans le catalogue des bases : chaque réponse renvoie aux textes officiels indexés. Les bases s’utilisent aussi par API REST ou via un serveur MCP depuis Claude, Cursor ou ChatGPT.

Liste de contrôle

• Les documents sont à jour, dédoublonnés et contiennent du texte.
• La recherche a été testée séparément sur de vraies questions.
• La consigne dit « uniquement ces passages » et « citez chaque affirmation ».
• Le refus est autorisé et compté comme un succès quand il est justifié.
• Un jeu d’évaluation avec questions hors périmètre tourne après chaque changement.