Cómo reducir las alucinaciones de la IA con respuestas basadas en fuentes

Para reducir las alucinaciones de la IA hay que dejar de pedirle que responda de memoria. Primero se buscan los fragmentos relevantes en documentos de confianza, después se obliga al modelo a responder solo con ellos y citándolos, y se le permite decir "no lo sé" cuando las fuentes no cubren la pregunta. Por último, se mide el resultado con un pequeño conjunto de preguntas cuya respuesta ya conoce. Esta guía explica por qué la IA inventa y cómo aplicar cada una de estas protecciones.

¿Por qué alucina la inteligencia artificial?

Un modelo de lenguaje no consulta ninguna base de datos al responder. Genera, palabra a palabra, la continuación más probable de su pregunta según los patrones que aprendió durante el entrenamiento. Casi siempre lo más probable coincide con lo cierto, y por eso parece tan competente. Cuando no coincide, aparece una alucinación: una afirmación falsa, redactada con total seguridad.

El riesgo se dispara en situaciones concretas:

• El conocimiento no está en el modelo. Los procedimientos internos de su empresa, su convenio colectivo, una consulta vinculante reciente de Hacienda o la ficha técnica de un proveedor nunca formaron parte de sus datos de entrenamiento.
• La pregunta exige precisión. Importes, plazos, artículos del Estatuto de los Trabajadores, números de resolución: hay muchos valores parecidos que resultan igual de plausibles.
• No tiene salida. Los modelos están ajustados para ser útiles. Sin permiso explícito para reconocer que no saben algo, prefieren dar una respuesta cualquiera.
• La pregunta es ambigua. El modelo elige una interpretación sin avisar y la responde con aplomo.
• El razonamiento es largo. Un pequeño error al principio se arrastra y se amplifica hasta la conclusión.

La idea clave: la alucinación forma parte del modo en que se genera el texto. Los modelos nuevos fallan menos, pero ninguno es infalible. La solución está en el sistema que se construye alrededor del modelo.

¿Qué es una respuesta basada en fuentes?

Una respuesta basada en fuentes (en inglés, "grounded answer") se redacta a partir de fragmentos proporcionados en el momento de la pregunta, no de la memoria del modelo. El modelo pasa de oráculo a lector cuidadoso que resume pruebas. Es el principio de la generación aumentada por recuperación, conocida como RAG.

Este anclaje cambia la forma de fallar. Un asistente sin fuentes que desconoce la respuesta se la inventa. Un asistente con fuentes que no encuentra nada pertinente puede estar obligado a decirlo, y cada afirmación que haga remite a un fragmento que cualquiera puede leer.

Cinco capas que reducen las alucinaciones

Ningún truco aislado resuelve el problema. Lo que funciona es apilar varias capas, de modo que cada una atrape lo que la anterior dejó pasar.

1. Fuentes limpias y actualizadas

Una respuesta basada en fuentes vale lo que valen sus fuentes. Elimine versiones obsoletas y duplicados, compruebe que los PDF contienen texto real y no escaneos, e indique la fecha y el alcance al principio de cada documento. Si conviven dos versiones del mismo protocolo, el asistente puede citar la equivocada con total convicción.

2. Una búsqueda que encuentre el fragmento correcto

Muchas supuestas alucinaciones son en realidad fallos de búsqueda: el fragmento correcto existía, pero nunca llegó al modelo. Una búsqueda híbrida, que combina palabras exactas con una ampliación semántica de la pregunta, encuentra tanto referencias precisas ("modelo 303") como preguntas formuladas con libertad. El tamaño de los fragmentos, su solapamiento y el número de resultados recuperados influyen mucho.

3. Una instrucción estricta: solo las fuentes

La instrucción de respuesta debe ser clara: utilice solo los fragmentos proporcionados, cite el número del fragmento tras cada afirmación y no añada conocimiento general. Indique también qué hacer si dos fragmentos se contradicen (mencionar ambos, con sus fechas) o si solo cubren parte de la pregunta (responder esa parte y señalar el hueco).

4. Citas en cada afirmación

Las citas cumplen dos funciones. Mantienen al modelo pegado al texto, porque cada frase debe remitir a algo. Y permiten al lector comprobar la respuesta en segundos. Una buena cita apunta a un fragmento concreto, no solo al título de un documento. Una afirmación importante sin cita merece desconfianza.

5. Permiso para negarse

Es la capa que más se olvida. Si los fragmentos no responden la pregunta, la respuesta correcta es "las fuentes no tratan este punto", idealmente acompañada de lo que sí cubren. Inclúyalo en la instrucción y cuente una negativa justificada como un acierto en las pruebas. Un asistente obligado a responder siempre inventará en una parte de las preguntas.

Cómo evaluar las alucinaciones antes de lanzar

Unas cuantas demostraciones brillantes no prueban gran cosa. Un conjunto de evaluación pequeño y repetible dice mucho más:

1. Reúna de 30 a 50 preguntas reales de su equipo o de sus clientes, cada una con la respuesta esperada y la sección del documento que la contiene.
2. Añada de 10 a 15 preguntas que sus documentos no pueden responder. El único resultado correcto es una negativa clara.
3. Evalúe la búsqueda por separado. ¿Apareció el fragmento esperado entre los recuperados? Si no, corrija documentos o búsqueda antes de tocar la instrucción.
4. Puntúe cada respuesta según tres criterios: correcta, respaldada por sus citas y negativa adecuada cuando la pregunta queda fuera del alcance.
5. Repita la evaluación tras cada cambio de documentos, división en fragmentos, ajustes de búsqueda o instrucciones.

Dos indicadores importan por encima de todo: el porcentaje de respuestas con alguna afirmación que ningún fragmento citado respalda, y el porcentaje de preguntas fuera de alcance que recibieron una respuesta inventada en lugar de una negativa. Un modelo de lenguaje puede ayudar a puntuar en volumen, pero una persona debe revisar una muestra, sobre todo los fallos.

Lo que el anclaje en fuentes no resuelve

• Errores de lectura. El modelo aún puede copiar mal una cifra o mezclar dos fragmentos. Las citas hacen el error detectable, no imposible.
• Fuentes erróneas. Un documento desactualizado produce una respuesta fielmente equivocada.
• Preguntas sobre todo el corpus. "Enumere todos los contratos con prórroga tácita" exige leerlo todo, no recuperar unos pocos fragmentos.
• Exceso de confianza. Una respuesta con citas parece autorizada. En decisiones importantes, alguien debe abrir la fuente.

Respuestas basadas en fuentes sin montar la infraestructura

Construirlo todo usted mismo implica extracción de texto, división en fragmentos, índice de búsqueda, instrucciones y un ciclo de evaluación. Para muchas pymes es demasiado esfuerzo. Kopik se encarga de esa cadena: usted sube archivos PDF, Word, texto o Markdown, y Kopik los extrae, los divide y los indexa para una búsqueda híbrida. Las respuestas se redactan solo a partir de los documentos, con los fragmentos citados y numerados, y el asistente lo indica cuando la base no contiene la respuesta.

El modo "pasajes" devuelve solo los fragmentos, sin respuesta redactada, algo útil para agentes de IA que prefieren razonar por su cuenta. Puede crear su base de conocimiento de forma gratuita, mantenerla privada o publicarla en el catálogo de bases, y consultarla desde la web, una API REST o un servidor MCP compatible con Claude, Cursor o ChatGPT, tal como describe la documentación para desarrolladores.

Lista de comprobación

• Los documentos están actualizados, sin duplicados y contienen texto real.
• La búsqueda se ha probado por separado con preguntas reales.
• La instrucción dice "solo estos fragmentos" y "cite cada afirmación".
• La negativa está permitida y cuenta como acierto cuando es correcta.
• Un conjunto de evaluación con preguntas fuera de alcance se ejecuta tras cada cambio.