En el ámbito educativo, las respuestas de la inteligencia artificial generativa pueden incluir errores que parecen cada vez más sutiles. El fenómeno conocido como “alucinación” se refiere a información inventada o incorrecta que el sistema presenta como válida. Para quienes estudian o enseñan, esto representa un desafío serio, ya que puede distorsionar la adquisición de conocimientos.
Un estudio reciente en una escuela de negocios del Reino Unido (Dang y Nguyen, Stanford SCALE Initiative) reveló que apenas el 20% de 211 estudiantes de segundo año logró reconocer una alucinación insertada de forma deliberada en una evaluación de alto impacto. A continuación, se detallan cinco tipos comunes de alucinaciones que suelen aparecer en contenidos educativos y que requieren siempre una verificación adicional.
Fuentes inventadas
Los sistemas de inteligencia artificial pueden generar artículos académicos que nunca existieron, DOIs falsos y nombres de revistas ficticias. Esto ocurre especialmente cuando se indaga sobre temas muy específicos o con poca cobertura en los datos de entrenamiento. Un estudio cualitativo con 63 estudiantes de ingeniería de la Universidad Khalifa (próximo a publicarse en Computers and Education) en Emiratos Árabes Unidos confirmó que casi un cuarto de los comentarios sobre experiencias de alucinación mencionaban fuentes citadas que, al buscarlas, simplemente no existían.
Para evitar este problema, se recomienda exigir a la IA el enlace directo de la fuente, verificar en buscadores académicos o localizar el DOI correspondiente. También es posible que la IA no tenga acceso a un informe completo y tome información parcial de un sitio que requiere doble comprobación.
Fantasía algorítmica
La segunda categoría más reportada es la fabricación directa de datos, como fechas históricas incorrectas, estadísticas inventadas o biografías con información parcialmente falsa. Este tipo de error es especialmente riesgoso para los estudiantes más jóvenes, que carecen del marco de referencia necesario para detectar una equivocación. El mismo estudio de la Universidad Khalifa documenta el caso de un estudiante que solicitó la biografía de un científico y recibió fechas y logros detallados, varios de los cuales eran inexistentes o incorrectos al contrastarlos.
El artículo de Yingzhe Li publicado en Artificial Intelligence Education Studies (2025) explica que los modelos de IA son sistemas probabilísticos que predicen la palabra más probable según patrones aprendidos, no motores de verificación factual. Cuando faltan datos confiables, el sistema “completa” con información plausible en lugar de admitir incertidumbre. Una técnica útil para este tipo de chequeos es el método SIFT (Stop, Investigate, Find, Trace), desarrollado por Mike Caulfield, que consiste en pausar, investigar, buscar en fuentes alternativas y rastrear coincidencias o inconsistencias.
Explicaciones engañosas
Esta alucinación es particularmente peligrosa en contenido pedagógico porque el error no está en un dato aislado, sino en la lógica interna de una explicación. La investigación de la Universidad Khalifa describe el “efecto de fluidez-verdad”: cuando una respuesta se presenta de forma clara y segura, tendemos a percibirla como verdadera, independientemente de su exactitud real. El mismo estudio cita un trabajo con médicos residentes que solo lograron detectar alucinaciones de IA en un 55% de los casos, cifra que cae al 44,2% en escenarios clínicos complejos. Este patrón se aplica a cualquier disciplina: cuanto más técnico es el contenido, más difícil resulta para un no experto notar el error.
Para enfrentar esta situación, se recomienda aplicar la lectura lateral, técnica de verificadores profesionales documentada por el Stanford History Education Group. Consiste en abrir pestañas paralelas y contrastar la afirmación con fuentes académicas o periodísticas independientes antes de dar por válida una explicación.
Adulación ante la corrección
¿Qué sucede cuando el usuario señala un error al modelo de IA? Este puede pedir disculpas y aparentar aceptar la corrección sin resolver realmente el problema de fondo, comportamiento denominado “sycophancy (adulación) regresiva”. Diversos estudios citados por la Universidad Khalifa indican que aproximadamente el 59% de los casos evaluados, con una tasa de persistencia del 78,5%, se quedan en la adulación sin realizar la corrección del error.
Esto genera una falsa sensación de haber corregido el contenido, cuando en realidad el modelo solo se volvió más “amable” con el usuario. La clave es volver a chequear que el error —especialmente si es de fondo— haya sido eliminado, e insistir en que el modelo evite la condescendencia en las respuestas.
Errores en materiales educativos accesibles
Un tipo de alucinación menos discutido, pero con impacto directo en la equidad educativa, afecta a los sistemas de texto a voz (TTS) utilizados para hacer accesibles los materiales de estudio. Estas “traducciones” pueden fabricar contenido, omitir pasajes completos o interpretar mal fórmulas y citas, generando audio que no refleja fielmente el texto original. Según un análisis de la empresa ReadSpeaker (2026), este tipo de errores afecta de forma especial a estudiantes con discapacidad visual o dislexia, que dependen del audio como interfaz principal y no siempre pueden contrastarlo con el texto escrito. La clave está en verificar con otras fuentes que ofrezcan mayor seguridad que una IA.
El trasfondo pedagógico
El estudio de Li (2025) insiste en que la respuesta educativa debe incluir hábitos de verificación como la lectura lateral, el método SIFT y el chequeo de fuentes primarias como partes esenciales de la alfabetización digital. El pensamiento crítico se convierte en una herramienta fundamental en esta interacción con los algoritmos. Además, es importante entender cómo funciona la IA: muchos estudiantes creen que es un buscador de bases de datos, cuando en realidad trabaja con predicción estadística, lo que hace que las alucinaciones puedan pasar desapercibidas cuanto menor sea la experiencia y el conocimiento sobre el tema.
Fuente: Infobae