¿Qué es una alucinación de IA?

Una alucinación de IA es cuando un modelo de IA afirma información falsa con total confianza: datos inventados, citas falsas, hechos que nunca ocurrieron. Sucede porque el modelo genera texto que suena plausible en vez de verificar hechos. Las respuestas erróneas se leen exactamente igual que las correctas.

Las alucinaciones ocurren porque un modelo de lenguaje predice las siguientes palabras más plausibles según los patrones de su entrenamiento, y plausible no es lo mismo que verdadero. Cuando el modelo conoce bien un tema, lo que suena correcto suele serlo. Cuando no, las palabras siguen fluyendo igual, con la misma fluidez y confianza, ahora llenas de cosas que solo suenan correctas: un caso judicial falso, una estadística inventada, un libro que el autor nunca escribió. El ejemplo famoso: abogados sancionados por presentar un escrito citando seis casos judiciales que la IA simplemente inventó. Dos cosas lo vuelven peligroso: la confianza nunca baja, así que no puedes oír la diferencia, y los errores caen justo donde verificar es tedioso, en citas, números y detalles técnicos. Las soluciones lo reducen, no lo curan: anclar el modelo en documentos recuperados para que cite en vez de recordar, pedir fuentes, bajar la creatividad del muestreo, y mantener revisión humana en todo lo que importe.

La cirujana brillante en la cena familiar. En medicina es genuinamente magnífica, y ese es exactamente el problema. La misma voz de autoridad cubre motores, impuestos y la antigua Roma, temas que conoce diez veces menos, porque décadas de tener razón desgastaron su sentido de dónde termina su pericia; no miente, es que no siente la frontera. Todo lo que la cruza sale con la misma voz confiada de cirujana, y los invitados solo descubren qué afirmaciones eran sólidas cuando las verifican después.