¿La IA se inventa cosas? Sí, y por eso importa de dónde saca los datos

Por qué alucina

Un modelo de lenguaje no consulta una base de datos y te la resume. Genera texto prediciendo qué sigue, palabra a palabra, según lo que ha visto en su entrenamiento. Es asombrosamente bueno en eso, y ahí está el problema: su objetivo es producir algo verosímil, no algo verdadero. Casi siempre coinciden. Cuando no coinciden, no hay nada dentro del modelo que le avise.

Por eso una alucinación no se parece a un error de ordenador. No es un mensaje rojo ni un campo vacío: es una frase bien construida, con el tono correcto, con un número de factura del formato correcto, que resulta que no existe. Y por eso engaña: suena igual que cuando acierta.

Conviene decirlo claro: esto no se «arregla» con un modelo mejor. Se reduce. Los modelos de 2026 alucinan bastante menos que los de 2023, y siguen alucinando.

Preguntar a un modelo no es preguntar a tus datos

Aquí está la diferencia que decide si una IA sirve dentro de una empresa.

Si le preguntas «¿cuánto me debe Talleres García?» a un chat genérico, no tiene forma de saberlo. Si contesta un número, se lo ha inventado entero. Si la pregunta se hace dentro de un sistema que busca primero la respuesta en tus registros y luego le pide al modelo que la redacte, el número sale del libro de facturas y el modelo solo pone las palabras alrededor.

El nombre técnico de esto es grounding: anclar la respuesta a una fuente. La regla de oro es sencilla:

El modelo pone las palabras. Tus datos ponen los hechos.

Y de ahí sale la prueba práctica más útil de todas: si una herramienta te da una cifra, tiene que poder enseñarte de qué registro sale. Si no puede, no es que sea opaca: es que probablemente no lo ha leído.

Las tres barreras que sí funcionan

1. Que cite el registro

Cada afirmación con un dato dentro debe llevar el enlace a su origen: esta factura, esta conversación, esta oportunidad. No es transparencia decorativa, es lo que convierte la comprobación en un clic en vez de en una búsqueda.

2. Que proponga en vez de ejecutar

Una alucinación que aparece en una propuesta pendiente de aprobación cuesta tres segundos: se descarta. La misma alucinación ejecutada sola cuesta un correo enviado a un cliente con un importe equivocado. Es exactamente el mismo error con dos consecuencias incomparables. La diferencia no está en el modelo, está en dónde has puesto el botón.

3. Que se pueda deshacer

Todo lo que la IA haga sola tiene que ser reversible, y tiene que quedar registrado quién lo hizo, cuándo y sobre qué. Si algo no se puede deshacer —un pago, una factura emitida, un correo enviado—, no es candidato a automatizarse sin persona. Nunca.

Lo que no se automatiza sin persona

Una lista corta y bastante universal:

• Cualquier importe: precios, descuentos, pagos, remesas.
• Documentos fiscales: una factura emitida deja huella y se corrige con una rectificativa, no con un «deshacer».
• Cualquier cosa que salga con tu nombre hacia un cliente, hasta que lleves semanas viendo lo que escribe.
• Nada que valore a una persona: ni candidatos, ni empleados. Además de ser mala idea, entra en el terreno de alto riesgo de la normativa.

Y una que casi nunca se dice: borrar. Una IA con permiso de borrado es un riesgo que no compensa por nada que gane.

Cómo comprobarlo en una demo, en cinco minutos

Con tus propios datos delante, tres pruebas:

• Pídele un dato y luego el origen. «¿Cuánto me debe este cliente?» y después «enséñame de dónde sale». Si no puede llevarte al registro, ya lo sabes.
• Pregúntale por algo que no existe. Un cliente inventado, una factura que no está. La respuesta buena es «no lo encuentro». Si te construye una respuesta plausible, está adivinando.
• Pídele que haga algo irreversible. Que envíe, que cobre, que borre. Mira si pide confirmación, si dice que no puede o si simplemente lo hace.

Esas tres preguntas separan una herramienta que trabaja sobre tus datos de un chat con tu logotipo encima mejor que cualquier ficha de características.