¿Por qué la IA se inventa cosas?
Se llama «alucinación»: una respuesta plausible, dicha con total seguridad, pero falsa.
El origen está en cómo aprende un modelo de lenguaje: a predecir la siguiente palabra a partir de enormes cantidades de texto. La ortografía o la estructura de un texto siguen patrones y se aprenden bien. Una fecha, una cifra o un dato interno de su empresa no se deducen de patrones.
Hay un segundo motivo: muchas evaluaciones premian acertar y no castigan un error más que un «no lo sé». Adivinar puntúa mejor que dudar.
Las alucinaciones no desaparecen del todo, pero se pueden reducir con un buen diseño:
- Que la IA responda solo con sus documentos.
- Que pueda decir «no lo sé».
- Que indique de dónde sale cada respuesta.
- Que una persona revise lo importante.
En Atharix diseñamos agentes de IA que usan la información de su empresa y pasan a una persona lo que no saben.
Hablemos: info@atharix.com · atharix.com
Fuentes
Otros temas
- IA que responde con sus documentos
La técnica se llama RAG (generación aumentada por recuperación). Antes de responder, el sistema busca en los documentos de su empresa (catálogos, normas internas, preguntas frecuentes) y el modelo contesta usando esa información.
- La IA redacta. Usted decide.
La IA generativa redacta, resume y traduce en segundos. Pero el criterio sigue siendo suyo.
- Su IA lee correos. ¿Y si uno la engaña?
La inyección de instrucciones (prompt injection) encabeza la lista OWASP 2025 de riesgos en aplicaciones con modelos de lenguaje.