Cifras y estadísticas
«El 73% de las pymes colombianas…». Ese número puede ser real, aproximado o inventado entero, y se ven idénticos.
Inteligencia artificial aplicada
Alucinaciones: cómo detectar lo que se inventó
Lección 4 de 8 · 18 min
Inventar con seguridad tiene nombre
Cuando un modelo produce algo que suena perfectamente razonable pero es falso, eso se llama alucinación. No es un fallo raro ni un error de la herramienta: es una consecuencia directa de cómo funciona.
Recuerda la lección 1: no busca la respuesta, la redacta. Y una cifra falsa bien redactada se parece muchísimo a una cifra verdadera.
Lo peligroso no es el error: es la seguridad. Un humano que no sabe algo duda, se contradice o lo dice. Un modelo entrega la respuesta falsa con exactamente el mismo tono con el que entrega las verdaderas. No hay ninguna señal en el texto que te avise.
Dónde inventa más
No inventa por igual en todo. Estas son las zonas de riesgo:
Referencias y citas
Artículos de ley, libros, estudios, sentencias. Es de lo que más se inventa, y de lo más fácil de detectar: se busca la referencia.
Detalles muy específicos
Fechas exactas, nombres de personas, versiones de un programa, números de resolución.
Lo que no existe
Si le pides la función SUMARSI.AVANZADO de Excel, te
explicará cómo usarla. No existe. Rara vez te dirá «eso no existe».
Cinco técnicas que sí funcionan
No son trucos caseros: son las que recomiendan los propios fabricantes en su documentación. Y funcionan porque atacan la causa, no el síntoma.
1. Dale permiso explícito para no saber
Añade a tu instrucción: «Si no tienes información suficiente o no estás seguro, di: no tengo información suficiente para responder esto».
Parece demasiado simple para servir, y sin embargo es la técnica que la documentación cita primero: reduce drásticamente la información falsa, porque le abre una salida distinta a inventar.
2. Que cite textualmente antes de opinar
Cuando trabajes sobre un documento largo, pídele que primero extraiga las citas literales relevantes y solo después analice, basándose únicamente en ellas.
Así ancla la respuesta al texto real en vez de a lo que recuerda.
3. Que respalde cada afirmación
«Revisa lo que escribiste. Para cada afirmación, busca la cita del documento que la sustenta. Si no la encuentras, elimina esa afirmación.»
Convierte su respuesta en algo auditable, y elimina solo lo que no tiene respaldo.
4. Que razone paso a paso
«Explica tu razonamiento antes de dar la respuesta final.» Al desplegar el razonamiento, los saltos lógicos y las suposiciones falsas quedan a la vista - las tuyas y las suyas.
5. Prohíbele salirse del material
«Usa únicamente la información de los documentos que te di. No uses tu conocimiento general.»
Es la instrucción más útil cuando trabajas con tus propios documentos, y la veremos otra vez en la lección 7.
Y una que puedes hacer tú
Pregúntale lo mismo dos veces, en conversaciones separadas. Si las dos respuestas no coinciden en un dato, ese dato es sospechoso. Cuando algo es sólido, tiende a responder lo mismo; cuando lo está inventando, cada vez inventa distinto.
No es una prueba definitiva - puede equivocarse igual las dos veces -, pero como señal de alarma es barata y funciona.
Una instrucción con las defensas puestas
Eres analista y vas a revisar este contrato [pegado abajo].
1. Extrae las citas TEXTUALES sobre plazos de pago y penalizaciones.
Si no encuentras ninguna, escribe: "No hay clausulas al respecto".
2. Con esas citas -y solo con esas- explicame que riesgos veo.
3. Numera cada riesgo con la cita que lo sustenta.
No uses conocimiento general sobre contratos. Si algo no esta en el
texto, dilo en vez de suponerlo.Resultado
Aqui hay cuatro defensas a la vez: permiso para no saber, citas textuales primero, cada afirmacion con su respaldo, y prohibido salirse del documento.
La respuesta que cita una norma
Te redacta una respuesta a un cliente citando un artículo del Estatuto del Consumidor. Búscalo antes de enviarlo. Enviar a un cliente una norma inexistente es un problema serio y con tu firma.
La cifra que va a un informe
Te da una cifra de crecimiento del sector. Si va a un informe que alguien va a usar para decidir, necesita fuente. Sin fuente comprobable, la cifra no entra.
La bibliografía y las referencias
Le pides cinco referencias sobre un tema y te da cinco, con autor, título y año. Es de lo que más se inventa. Cada una se busca antes de ponerla en un programa o en una guía.
⚠️ Ninguna de estas técnicas elimina el problema, solo lo reduce. La propia documentación lo dice: hay que validar siempre la información crítica, sobre todo en decisiones de alto impacto. La regla que no falla: si vas a firmarlo, enviarlo o decidir con ello, se verifica.
Compruébalo tú mismo
De estas técnicas, ¿cuál recomienda la documentación como la más simple y de mayor efecto?
Es la primera que citan las guías de los fabricantes: dar
permiso explícito para admitir incertidumbre reduce drásticamente la
información falsa, porque le abre una salida distinta a inventar.
Vas a analizar un contrato largo. ¿Qué le pides para que no se invente cláusulas?
Pedir citas literales primero ancla la respuesta al texto real
en vez de a lo que el modelo recuerda de contratos parecidos. Resumir con sus
palabras y compararlo con otros es justo lo que abre la puerta a inventar.
Siguiente: Qué datos NO le puedes dar
Continuar ← El contexto: por qué la misma pregunta da respuestas distintas