La primera vez que te pasa, desconcierta. Le pides a una herramienta de IA el número de un artículo de una ley, te lo da con una seguridad absoluta, y resulta que ese artículo dice otra cosa. Lo inquietante no es el error: es el tono. Suena igual de convencida cuando acierta que cuando se equivoca.
Esto tiene nombre —lo llaman alucinación— y tiene una explicación que conviene entender, porque es lo que separa usar estas herramientas con criterio de usarlas cruzando los dedos.
Lo esencial en 30 segundos
- Un modelo de lenguaje no consulta una base de datos: predice texto plausible. Por eso lo falso suena igual que lo cierto.
- El riesgo se dispara con datos concretos: cifras, fechas, nombres propios, citas, artículos de normas y funciones de productos.
- La instrucción puede reducirlo mucho: dar la fuente, prohibir rellenar y pedir que marque lo que no sabe.
- Nada que lleve un dato verificable debería salir hacia un cliente sin que alguien lo compruebe.
No miente: completa
Un modelo de lenguaje funciona prediciendo qué texto encaja a continuación del que ya hay. Es extraordinariamente bueno en eso. Pero «lo que encaja» y «lo que es cierto» no son lo mismo.
Si le preguntas por una norma que existe, lo más probable es que acierte, porque la respuesta correcta es también la más plausible. Si le preguntas por una norma que no existe, o por un detalle que nunca vio, seguirá generando algo que parece una respuesta correcta: con el formato adecuado, la estructura adecuada y el tono adecuado. Simplemente no hay nadie dentro que diga «esto no lo sé».
Por eso el problema no se arregla pidiéndole que no se equivoque. Se arregla cambiando las condiciones en las que trabaja.
Dónde aparece más
No todas las tareas tienen el mismo riesgo. Estas son las que más disgustos dan, ordenadas de mayor a menor peligro:
| Tipo de dato | Riesgo | Por qué |
|---|---|---|
| Citas textuales y fuentes | Muy alto | Puede construir una cita con el estilo correcto atribuida a alguien que nunca la dijo, y hasta inventar el enlace. |
| Cifras y estadísticas | Muy alto | Un número plausible es indistinguible de uno real si no lo compruebas. |
| Artículos de normas y plazos | Muy alto | La estructura legal es muy regular, así que es fácil generar algo con forma de artículo. |
| Funciones y precios de productos | Alto | Cambian cada pocos meses; el modelo responde con lo que vio en su momento. |
| Nombres propios y cargos | Alto | Confunde personas con perfiles parecidos. |
| Resumir un texto que le diste | Bajo | El material está delante: hay poco que inventar. |
| Reescribir o cambiar el tono | Muy bajo | No aporta información nueva. |
Fíjate en el patrón: el riesgo baja cuanto más material propio le das y sube cuanto más depende de su memoria.
Cómo revisar en tres minutos
No hace falta comprobarlo todo. Hace falta comprobar lo comprobable, que suele ser una parte pequeña del texto.
-
Subraya los datos duros
Lee la respuesta y marca todo lo que sea una afirmación verificable: números, fechas, nombres, referencias normativas, nombres de funciones. El resto —redacción, estructura, argumentos— no puede ser «falso» del mismo modo.
-
Pregunta de dónde sale cada uno
Si el dato venía en el material que tú le diste, está bien. Si no, es memoria del modelo y hay que verificarlo en la fuente original.
-
Comprueba los enlaces uno a uno
Ábrelos. Un enlace que devuelve un error, o que lleva a una página que no dice lo que se afirma, es la señal más clara de que algo se generó de más.
-
Desconfía de lo demasiado redondo
Las cifras exactas y los porcentajes limpios son el tipo de dato que más conviene mirar dos veces.
Haz la misma pregunta dos veces, en conversaciones distintas. Si el dato concreto cambia entre una y otra, lo estaba generando. Si se mantiene, no garantiza que sea cierto, pero sube bastante la probabilidad.
Cómo reducirlo desde la instrucción
Buena parte del problema se evita antes de que ocurra. Tres cambios en cómo pides las cosas:
- Dale la fuente en lugar de pedirle que la recuerde. Pega tus condiciones, tu tarifario, el texto de la norma. Cuando el material está en la conversación, el modelo trabaja sobre lo que tiene y no sobre lo que cree recordar.
- Prohíbe rellenar, explícitamente. «Si un dato no está en el material que te di, no lo inventes: escribe FALTA DATO.» Parece obvio, y cambia mucho el resultado.
- Pide que separe lo que sabe de lo que deduce. «Marca con [SEGÚN EL DOCUMENTO] lo que salga del material y con [SUPOSICIÓN] lo que estés infiriendo.» Te deja ver el razonamiento en lugar de solo el resultado.
Y una cuarta, la más incómoda: no le pidas datos que podrías buscar tú en treinta segundos en la fuente oficial. Para eso no compensa.
Lo que nunca debería salir sin revisión
En la práctica, dentro de un negocio hay una lista corta de cosas que no conviene delegar sin que una persona las mire:
- Cualquier cifra que vaya en una cotización o una factura.
- Plazos, garantías y condiciones que generen una obligación.
- Referencias a normas, requisitos o trámites.
- Datos de un cliente concreto: nombres, saldos, historial.
- Cualquier texto que vaya a publicarse con el nombre de tu empresa.
Esto no convierte la herramienta en inútil: sigue ahorrando la mayor parte del trabajo. Redactar un borrador toma segundos y revisarlo toma un par de minutos; escribirlo desde cero tomaba veinte. El ahorro está ahí, y con la revisión puesta, es un ahorro que puedes defender delante de un cliente.
Una forma sana de verlo
Trata las respuestas como tratarías el trabajo de alguien muy rápido, muy leído y con muchísima facilidad de palabra, que acaba de entrar en tu empresa y todavía no conoce tus datos. Le darías material, le pedirías que no se invente nada y revisarías lo que entrega antes de mandarlo.
Es exactamente el mismo trato. Y por las mismas razones.
