Glosario de IA
¿Qué es una alucinación en IA?
Una alucinación es cuando un modelo de IA genera información falsa o inventada y la presenta con total seguridad, como si fuera un dato real.
Pasa porque un LLM no busca la respuesta en una base de datos: genera el texto que le parece más probable. Si no tiene el dato, igual puede producir algo con la forma de una respuesta correcta, como una cita, una fecha o una referencia que no existen.
Es más común con preguntas muy específicas, con datos recientes o con temas sobre los que vio poco texto, y cuando el prompt empuja a responder sí o sí.
Se reduce, aunque no desaparece del todo, dándole al modelo las fuentes (RAG), pidiéndole que diga cuándo no sabe y verificando lo importante. En Tokencito, un asistente que inventa respuestas es uno de los sistemas que te toca arreglar.
Un ejemplo
Pedirle a un chatbot tres libros sobre un tema con su ISBN y recibir títulos convincentes que no existen es una alucinación típica.