0.4Fortalezas, límites: alucinaciones, sesgos, actualidad
Lo esencial en 30 segundos
- El error más costoso es creer una respuesta falsa: la alucinación llega con el mismo tono seguro que las respuestas correctas — indetectable sin verificación.
- Tres riesgos que debe conocer: alucinaciones (hechos inventados), sesgos (distorsiones heredadas de los datos), actualidad (conocimientos limitados en el tiempo).
- Verificación proporcional a lo que está en juego: borrador interno = relectura rápida; documento comprometedor = verificación sistemática de cada dato.
Minicaso transversal — Amine detecta una alucinación
Amine, jefe de proyecto en Argel, pide a su asistente tres referencias de libros sobre un tema especializado de su oficio, con autor y año. Al verificar cada referencia en un motor de búsqueda, encuentra una inventada — presentada, sin embargo, con seguridad. Repite la petición autorizando el « no lo sé », luego prueba la actualidad del mes: sin búsqueda web, la respuesta suena a memoria. Nace su regla: cuanto mayor es lo que está en juego, más rigurosa es la verificación.
Caso autónomo de esta sección: reaparece en el curso, el esquema, el guion y el reto 48h de la sección 0.4.
1. El error más costoso
El error más costoso con la IA no es formular mal el prompt: es creer una respuesta falsa. Los LLM producen alucinaciones — cifras inventadas, referencias inexistentes, afirmaciones plausibles pero falsas — entregadas con el mismo tono seguro que las respuestas correctas. Se añaden los sesgos heredados de los datos de entrenamiento (estereotipos, puntos de vista sobrerrepresentados) y la actualidad limitada (fecha de corte de los conocimientos).
2. Detectar y reducir
Las situaciones de riesgo: datos precisos, cifras, citas, derecho, actualidad, personas. Las técnicas de reducción: pedir las fuentes, autorizar el « no lo sé » (« cita solo aquello de lo que estés seguro »), cruzar dos herramientas, observar si el asistente busca realmente en la web (fuentes citadas) o responde de memoria (desconfianza). Amine vio el efecto: la instrucción de prudencia hace la respuesta claramente más honesta.
3. Verificar según lo que está en juego
El principio de gobernanza: cuanto mayor es lo que está en juego, más rigurosa es la verificación (borrador interno ≠ documento publicado). Un enlace proporcionado no prueba nada mientras no se haya hecho clic: los enlaces generados de memoria pueden estar rotos, solo el contenido de la página da fe. Y los avances de los modelos no eliminarán el riesgo: los usos profesionales serios integran la verificación humana por diseño.
🔎 Ejemplo concreto — 🔎 Ejemplo concreto — Detectar una alucinación
« 3 referencias de libros sobre [tema especializado], autor + año » → verifique cada una.
Al menos una será a menudo inexacta o inventada.
→ añadir « si no estás seguro, dilo » reduce claramente las invenciones.Lectura: Amine verifica sus tres referencias: la invención salta a la vista una vez confrontada con el motor de búsqueda.
Lección: verifique hechos, cifras y fuentes según lo que está en juego — y compruebe si la herramienta busca en la web o responde de memoria.
Vocabulario de la sección
- Alucinación
- Contenido inventado presentado como un hecho: referencias ficticias, cifras falsas, acontecimientos imaginarios — indetectable por el tono.
Ejemplo sencillo: Amine recibe un libro citado con autor y año que no existe.
Lo que no es: un error de visualización o una avería del servidor.
Reflejo: verifique cada referencia, cifra y cita en la fuente.
- Sesgo
- Distorsiones heredadas de los datos de entrenamiento: estereotipos, sobrerrepresentación de ciertos puntos de vista, ángulos culturales.
Ejemplo sencillo: Amine observa que los ejemplos propuestos descuidan sistemáticamente ciertos perfiles: pide otros ángulos.
Lo que no es: una falta de ortografía o un error de cálculo.
Reflejo: pida explícitamente otros puntos de vista en los temas sensibles.
- Fecha de corte
- El límite temporal de los conocimientos del modelo. Los asistentes con búsqueda web lo superan — citando entonces sus fuentes.
Ejemplo sencillo: Amine prueba la actualidad del mes: sin fuentes web citadas, desconfía de la respuesta.
Lo que no es: la fecha de creación de su cuenta.
Reflejo: para la actualidad, exija una búsqueda web con fuentes consultables.
- Zona de riesgo
- Las peticiones donde la alucinación es probable y costosa: cifras precisas, citas, jurisprudencia, referencias bibliográficas, actualidad.
Ejemplo sencillo: Amine clasifica sus peticiones: importes y referencias en zona roja, borradores internos en zona verde.
Lo que no es: cualquier petición anodina sin nada en juego.
Reflejo: detecte la zona roja antes de enviar, no después.
- Verificación proporcional
- La regla de oro: correo interno = relectura rápida; documento comprometedor = verificación sistemática de cada dato.
Ejemplo sencillo: Amine relee rápido su borrador interno pero controla cada dato del documento destinado al cliente.
Lo que no es: verificar con la misma rigurosidad cada borrador sin nada en juego.
Reflejo: calibre la verificación según lo que esté en juego en la difusión.
En la práctica — En la práctica — Provoque (y detecte) una alucinación
- Pida a su asistente: « Dame 3 referencias de libros en español sobre [un tema muy especializado de su oficio], con autor y año ».
- Verifique cada referencia en un motor de búsqueda: es muy probable que al menos una sea inexacta o inventada.
- Repita la petición añadiendo: « Cita solo obras de las que estés seguro; si no estás seguro, dilo » — compare la prudencia de la respuesta.
- Termine con la prueba de actualidad: « ¿Qué ha pasado de importante en mi sector este mes? » — observe si la herramienta busca en la web (fuentes citadas) o responde de memoria (desconfianza).
Guion listo para decir — exigir una verificación antes de difundir (30 s)
« Este documento se envía al exterior: antes de difundir, verificamos cada cifra, cada referencia y cada enlace haciendo clic en él. La IA hizo el primer borrador, pero es nuestra firma la que aparece abajo — la verificación es proporcional a lo que está en juego. »
Dígalo antes de cualquier envío comprometedor; muestre la referencia inventada detectada durante el ejercicio.
Modelo para copiar y pegar — mi cuadrícula de verificación
DOCUMENTO: _______________ LO QUE ESTÁ EN JUEGO (interno / externo): _______________
CIFRAS VERIFICADAS EN LA FUENTE: _______________
REFERENCIAS VERIFICADAS (motor de búsqueda): _______________
ENLACES CLICADOS Y PÁGINAS LEÍDAS: _______________
INSTRUCCIÓN « NO LO SÉ » AÑADIDA: sí / noBorrador interno
Lo que está en juego es bajo: relectura rápida de los hechos esenciales — la verificación rigurosa esperará a la versión que se difunda.
Documento para cliente
Amine controla cada importe y cada referencia del entregable destinado al cliente en Argel: verificación sistemática, enlaces clicados uno por uno.
Tema de actualidad
Pida una búsqueda web con fuentes citadas, luego lea las páginas: sin fuentes consultables, la respuesta sigue siendo una memoria que no debe difundirse.
Cifras y derecho
Zona roja absoluta: importes, citas, jurisprudencia — doble control (fuente primaria + segunda herramienta) antes de cualquier uso.
✓ Buenas prácticas
- Autorice explícitamente el « no lo sé » en sus prompts.
- Verifique cada dato, cifra y fuente en zona de riesgo.
- Cruce dos herramientas para la información crítica.
✗ Errores frecuentes
- Fiarse del tono seguro de una respuesta para juzgar su veracidad.
- Publicar un documento sin verificar hechos y cifras.
- Olvidar la fecha de corte en los temas de actualidad.
Puntos clave
- La alucinación es indetectable por el tono: solo la verificación externa protege.
- Zonas rojas: cifras, citas, referencias, derecho, actualidad, personas.
- Autorizar el « no lo sé » en el prompt reduce claramente las invenciones.
- Verificación proporcional a lo que está en juego: borrador interno ≠ documento publicado.
Reto 48h — aplíquelo mañana
Provoque una alucinación como Amine: pida 3 referencias especializadas, verifíquelas una por una, añada la instrucción « si no estás seguro, dilo », y luego pruebe la actualidad del mes observando si la herramienta busca en la web.
- He visto una alucinación con mis propios ojos y sé describirla.
- Conozco las zonas rojas y la regla del « no lo sé ».
- Aplico la verificación proporcional a lo que está en juego antes de difundir.
Preguntas frecuentes
¿Las alucinaciones desaparecerán con los avances de los modelos?
Disminuyen (sobre todo con la búsqueda web y el anclaje en documentos) pero siguen siendo inherentes al principio generativo. Los flujos de trabajo profesionales serios integran la verificación humana por diseño, no por desconfianza pasajera. Esperar un modelo « sin alucinaciones » para bajar la guardia sería un error: la verificación proporcional sigue siendo la buena postura duradera.
La IA citó una fuente con un enlace: ¿puedo fiarme del enlace?
Haga siempre clic: los enlaces generados de memoria pueden estar rotos o llevar a otro sitio. Cuando el asistente ha realizado realmente una búsqueda web, las fuentes son fiables para consultar — es el contenido de la página lo que da fe, no el resumen. Un enlace que « parece verdadero » no es una prueba: solo cuenta la página real que hay detrás.
¿Qué es una alucinación?