La IA siempre alucina

En el campo de los modelos de lenguaje (LLMs), alucinar significa generar información que parece plausible pero no es cierta. Y aquí está la trampa que mucha gente no entiende: el modelo no distingue entre "sabe algo" y "se lo está inventando". Para él, las dos operaciones son la misma cosa, porque su mecanismo interno es siempre el mismo.

Lo que un LLM hace, en cada respuesta, es:

1. Recibe un prompt (tu mensaje + contexto + historial).

2. Lo convierte en tokens.

3. Calcula, palabra por palabra, cuál es el siguiente token más probable dada la secuencia anterior.

4. Lo escribe.

5. Repite.

No hay un módulo de "verificación de verdad". No hay una base de datos donde busca antes de contestar (a no ser que se la conectes explícitamente). Solo hay un cálculo de probabilidades sobre lo que ha aprendido durante el entrenamiento.

Cuando acierta, ¿qué ha pasado? Que la respuesta más probable resulta ser, además, correcta. Porque en su entrenamiento había abundante texto coherente sobre ese tema, y la probabilidad de los tokens correctos era alta.

Cuando falla, ¿qué ha pasado? Que la respuesta más probable era plausible pero no real. Algunos casos típicos: la pregunta es muy específica y no había datos suficientes. La pregunta toca algo que cambia con el tiempo. La pregunta es sobre algo poco frecuente en sus datos. La forma de la pregunta lo empuja hacia una respuesta concreta.

En todos esos casos, el modelo te entrega la respuesta con la misma confianza estilística que cuando acierta. Esta es la trampa: la confianza con la que te lo dice no se correlaciona con que sea verdad.

Los LLMs están entrenados con cantidades enormes de texto humano coherente: artículos, libros, páginas web bien redactadas, documentación. De ese entrenamiento aprenden, entre otras cosas, el estilo de la confianza: frases bien construidas, datos puestos como datos, citas con la forma de citas, números con la forma de números.

El modelo replica ese estilo cuando genera, independientemente de si lo que está escribiendo es verdad. La forma de "datos seguros" se aplica tanto a hechos reales como a invenciones plausibles.

A esto se suma un segundo factor: el reinforcement learning con feedback humano (RLHF) que se aplica durante el entrenamiento. Los modelos aprenden que las respuestas dudosas, vacilantes o llenas de "no estoy seguro" reciben peor puntuación de quienes los entrenan. Así que aprenden a sonar seguros, incluso cuando no tienen base.

Resultado: el modelo genera con tono de experto siempre. La duda no está visualmente codificada en su forma de escribir.

Algunos modelos modernos tienen mecanismos de auto-verificación (Claude, GPT-5.4 Thinking, Gemini Deep Think pueden razonar antes de responder y a veces detectan sus propias incertidumbres). Pero ni con esos mecanismos se elimina el problema. Solo se reduce.

Las alucinaciones se concentran en cuatro tipos de situación:

1. Información que cambia con el tiempo. Leyes, precios, versiones de software, plantillas vivas, tipos impositivos, listados de productos, datos de empresas, organigramas. Si la respuesta correcta puede haber cambiado desde el entrenamiento del modelo, hay alta probabilidad de alucinación. La IA no sabe que algo está obsoleto.

2. Información muy específica o de nicho. Datos de personas no famosas, eventos locales, normativas regionales, jerga sectorial, productos de poca difusión, autores poco citados, libros poco traducidos, asociaciones pequeñas. Cuanta menos huella tenga algo en internet, más probabilidad de que el modelo lo invente para parecer útil.

3. Tareas que requieren cálculo o lógica precisa. Operaciones matemáticas con muchos pasos, fechas, conversiones de unidades, contabilidad, citas legales con artículos exactos, referencias bibliográficas con páginas. La IA no calcula como una calculadora: predice. Y predecir mal una cifra es muy fácil.

4. Tareas donde la pregunta sugiere una respuesta. Si tú preguntas "¿es verdad que X dijo Y?", la IA tiende a confirmar antes que a desmentir, porque la forma de la pregunta la empuja hacia el "sí". Si formulas mal la pregunta, induces alucinaciones tú misma sin querer.

Patrón común a las cuatro: en todos los casos, el problema es el mismo: el modelo prioriza dar una respuesta plausible antes que admitir que no sabe. Y por defecto, la mayoría de modelos casi nunca dicen "no sé". Han aprendido que decir "no sé" se penaliza.

Las plataformas modernas de IA incluyen un modo llamado deep research (también conocido como "investigación profunda" o "research" según la plataforma). Es una funcionalidad que activas cuando hagas una pregunta donde la precisión importa.

Qué hace deep research:

Cuando lo activas, la IA no responde con su predicción de tokens directamente. Antes, hace varias cosas:

1. Identifica las preguntas concretas que tu prompt requiere responder.

2. Busca en internet fuentes oficiales que tengan información actualizada.

3. Lee y compara varias fuentes para detectar contradicciones.

4. Genera una respuesta basada en lo que ha encontrado, citando las fuentes.

El resultado es radicalmente distinto: en lugar de una respuesta plausible, obtienes una respuesta con base, con citas verificables, y con menos riesgo de alucinación.

Disponibilidad:

Claude: "Research" disponible en planes pagos.

ChatGPT: "Deep Research" disponible en planes Plus y superiores.

Gemini: "Deep Research" disponible incluso en algunos niveles gratuitos.

Cuándo usarlo: Cualquier pregunta sobre información actualizada (leyes, precios, eventos recientes). Cualquier pregunta que requiera datos verificables. Cualquier comparativa de productos, servicios, empresas. Cualquier pregunta donde la respuesta vaya a usarse para tomar una decisión.

Cuándo NO hace falta: Conversación normal. Generación creativa. Preguntas conceptuales generales. Tareas donde la verdad histórica ya está consolidada.

Coste: Deep research consume más tokens y más tiempo (puede tardar varios minutos). No lo uses para todo, úsalo cuando importe.

Cuando la IA tiene acceso a archivos concretos con información real (en lugar de tener que tirar de su entrenamiento), las alucinaciones bajan brutalmente en ese dominio. La razón es simple: en lugar de predecir basándose en estadísticas generales, está leyendo el dato.

Esto se aplica en tres niveles:

1. Subir archivos puntuales. En la plataforma web puedes subir un PDF, un Excel, un Word. La IA los lee y responde basándose en ellos. Reduce alucinaciones para preguntas sobre ese documento concreto.

2. Carpetas de proyecto en IDE. Cuando trabajas en Visual Studio Code con Claude Code, la IA tiene acceso a todos los archivos del proyecto. Si le preguntas algo sobre tu código, lee el código real. Si tiene tu documentación en markdown, la lee.

3. Skills y agent.md. Archivos específicos que le enseñan al modelo a trabajar en un dominio concreto, con instrucciones precisas, errores conocidos y fuentes de verdad. Esto lo veremos en profundidad en la Clase 06 (Skills).

Limitación importante: PDFs vs Markdown. Los PDFs se leen mal. La IA captura aproximadamente la mitad del contenido de un PDF. Para tareas serias donde la información tiene que estar bien leída, conviene convertir los PDFs a markdown antes de meterlos en el proyecto. El markdown se lee entero, en orden, sin perderse nada.

Gesto 1: Pide deep research por defecto en tareas críticas.

Cualquier pregunta sobre información actualizada, datos verificables, normativa, comparativas, decisiones, va precedida de: "Antes de responder, haz un deep research y búscame fuentes oficiales. Cita las fuentes en tu respuesta."

Este gesto no es un truco, es un protocolo. Cada vez que la respuesta vaya a usarse para algo serio, este es el primer paso.

Gesto 2: Mete el documento en el contexto cuando sea posible.

Si la pregunta es sobre un texto concreto (contrato, ley, manual, transcripción, base de datos), no preguntes de memoria. Sube el archivo, o trabaja desde un IDE donde el archivo esté disponible. La IA con archivo es radicalmente mejor que la IA sin archivo.

Gesto 3: Verifica las cosas críticas con una segunda fuente.

Para decisiones importantes (legales, médicas, financieras, contractuales), la IA es un primer paso, no el último. Si la respuesta va a tener consecuencias, comprueba con una fuente humana experta o con la fuente oficial directa.

Una regla bonus específica: si la IA cita un artículo de ley, una sentencia, una página de un libro, un estudio académico, una estadística con cifra concreta, abre la fuente y verifica. Hay un patrón muy frecuente de alucinación: la IA cita referencias que no existen pero que tienen pinta correcta.