Fenomeno por el que un modelo genera informacion falsa con apariencia convincente. No miente a proposito; simplemente inventa porque no sabe la respuesta.
La alucinacion es uno de los problemas mas importantes de la IA actual. Ocurre cuando un modelo genera informacion que parece veridica pero es completamente falsa. El modelo no miente deliberadamente: simplemente rellena los huecos de su conocimiento con lo que estadisticamente es mas probable.
Es como un estudiante que no sabe la respuesta a una pregunta pero intenta responder con algo que suene bien. El modelo hace lo mismo: genera texto coherente y convincente aunque el contenido sea incorrecto.
Las alucinaciones se reducen (pero no eliminan) con tecnicas como RAG (buscar en fuentes fiables), prompts bien disenados, y modelos mas grandes. El usuario siempre debe verificar la informacion critica generada por IA.
💡 Ejemplos prácticos
Citas inventadasChatGPT puede generar citas bibliograficas que parecen reales con autores, anos y revistas que no existen.
Datos falsosPreguntar por estadisticas especificas puede producir numeros convincentes pero completamente inventados.
Fuentes inexistentesEl modelo puede citar articulos, leyes o estudios que suenan verosimiles pero son totalmente ficticios.