Alucinaciones IA: por qué los modelos inventan cosas y cómo detectarlas
En resumen: una alucinación es una respuesta de IA segura, plausible, pero inventada. No es un error, es cómo funciona la tecnología: el modelo predice una continuación de texto probable, y cuando no sabe la respuesta, la "continuación probable" sigue pareciendo una respuesta real. Defensa: verifica lo que importa, dale fuentes al modelo, activa la búsqueda web.
Por qué los modelos inventan cosas
Un modelo de lenguaje no "busca respuestas en una base de datos"; genera texto token a token, eligiendo la continuación más probable. No tiene una bandera de "no sé" incorporada: cuando los hechos se agotan, se sigue produciendo texto estadísticamente probable, con fechas, nombres y un tono seguro.
Dónde el riesgo es mayor
- Enlaces y fuentes — los modelos inventan fácilmente URLs y títulos de artículos plausibles
- Números exactos, fechas, citas
- Personas y eventos poco conocidos — pocos datos, mucha fantasía
- Detalles legales y médicos — donde los errores cuestan más
4 técnicas de defensa
- Verifica lo que importa. Cualquier número, cita o enlace del que dependa algo, abre la fuente original.
- Permite la incertidumbre. Añade "si no estás seguro, dímelo" a tu prompt. Reduce la invención de forma medible.
- Proporciona material. Un modelo con un documento responde desde el documento, no de memoria.
- Activa la búsqueda web — las respuestas basadas en páginas encontradas se pueden verificar a través de sus enlaces.
Lo único que debes recordar
Un detalle plausible no es una prueba. Un tono seguro no es una prueba. La única prueba es la fuente original que abriste tú mismo.
Temas relacionados
La mitad de la defensa contra las alucinaciones es una solicitud bien construida: cómo darle material al modelo y permitirle admitir incertidumbre se cubre en qué es un prompt y cómo escribir uno. Si estás empezando, empieza con la guía para principiantes de ChatGPT. Y qué datos son seguros para confiar a un modelo está en nuestro artículo sobre privacidad al trabajar con IA.
FAQ
«¿Desaparecerán alguna vez las alucinaciones?»
Los modelos son cada vez más precisos, y la búsqueda más el 'grounding' reducen el riesgo; pero la naturaleza generativa de los LLM hace que la invención sea inherentemente posible. La verificación sigue siendo una habilidad fundamental.
«¿Qué es una alucinación de IA en palabras sencillas?»
Es una respuesta segura, plausible, pero inventada: el modelo afirma un hecho, enlace o cita inexistente con la misma calma que uno real. No puedes distinguir la invención de la verdad solo por la apariencia, solo verificando.
«¿Cómo sé si la IA está inventando cosas ahora mismo?»
No hay una señal externa fiable, ese es el peligro. Señales indirectas: números muy precisos sin fuente, enlaces que no se abren, detalles sobre personas poco conocidas. Verifica cualquier detalle crítico con la fuente original.
«¿Por qué el modelo no dice simplemente 'no lo sé'?»
Porque no busca una respuesta en una base de datos; completa la continuación más probable del texto. No tiene una bandera de 'desconocido' incorporada. Pero puedes preguntar: añade 'si no estás seguro, dímelo' a tu prompt, y la invención disminuye.
«¿La búsqueda web elimina la invención por completo?»
No por completo, pero reduce notablemente el riesgo: la respuesta se basa en páginas encontradas que puedes verificar a través de sus enlaces. La clave es abrir tú mismo la fuente en lugar de confiar en la narración del modelo.
«¿Dónde son especialmente peligrosas las alucinaciones?»
Donde el coste del error es alto: detalles legales y médicos, cálculos financieros, citas y enlaces exactos, hechos sobre personas específicas. En estas áreas, la IA es un borrador y un asistente, no la palabra final.
«¿Cómo se relacionan las alucinaciones con la calidad del prompt?»
Directamente. Dale al modelo un documento fuente y pídele que responda solo a partir de él, y el margen para la invención se reduce. Cómo construir tales solicitudes está en nuestro artículo sobre prompts.