¿Ha confiado alguna vez en la respuesta de una inteligencia artificial por lo completa y segura que sonaba? Nombres, fechas, fuentes, todo parecía correcto. Sin embargo, una parte de esa información podría no existir. Un estudio de mayo de 2026, que analizó publicaciones científicas, encontró cerca de 147.000 citas inexistentes: autores inventados, títulos que jamás fueron escritos y datos que nunca se publicaron, presentados con la misma seguridad que cualquier referencia real. Este hallazgo plantea una pregunta clave: ¿qué hace realmente la IA cuando genera una respuesta?
La respuesta es más compleja de lo que parece. Los modelos de lenguaje son sistemas entrenados para predecir qué palabras encajan mejor en una secuencia, no para verificar si lo que dicen es verdad. No consultan una base de datos de hechos comprobados ni contrastan sus afirmaciones antes de emitirlas. Analizan enormes volúmenes de texto, aprenden patrones de co-ocurrencia y producen respuestas coherentes dentro de ese marco. El resultado puede sonar razonado e incluso erudito, pero detrás no existe ningún proceso de verificación.
La fluidez no equivale a exactitud
Esa distinción entre forma y contenido está en el centro del problema. Un estudio publicado en Frontiers in Artificial Intelligence definió las “alucinaciones” —el término técnico para este fenómeno— como contenidos que parecen fluidos y coherentes aunque sean incorrectos, lógicamente inconsistentes o directamente inventados. La definición es clave porque describe algo contraintuitivo: un texto puede estar bien escrito y ser falso al mismo tiempo, y la calidad de la escritura no dice nada sobre la calidad de la información.
Otra investigación publicada en arXiv profundizó en esta idea y mostró que los modelos de lenguaje pueden enunciar principios correctos sin aplicarlos de manera consistente. Es como si alguien explicara con detalle cómo nadar, pero se hundiera al entrar al agua. El modelo puede describir cómo resolver un problema sin ser capaz de resolverlo.
Responder no es lo mismo que comprender
Un análisis de julio de 2026 examinó esta brecha desde otro ángulo. Al comparar cómo los humanos leen y escriben —dos procesos cerebrales separados— con el funcionamiento de estos sistemas, los resultados mostraron que, en los modelos de lenguaje, lectura y escritura operan a través de un único mecanismo acoplado: el sistema calcula la palabra más probable que sigue a la anterior, sin detenerse a entender el sentido de lo que produce. En el cerebro humano, en cambio, leer y escribir son habilidades disociables: una puede dañarse sin afectar a la otra. Esto revela que responden a procesos distintos. No hay nada parecido a la comprensión que ocurre cuando una persona lee, procesa y reformula lo que entendió: hay texto que entra y texto que sale, dentro de un mecanismo que nunca verifica.
Eso no significa que estas herramientas sean inútiles. Su utilidad tiene una forma específica: son eficaces para resumir, organizar, reformular y asistir en tareas que implican manejar grandes volúmenes de texto. Donde muestran sus límites es en cualquier tarea que requiera verificar hechos, razonar sobre datos concretos o distinguir entre lo que es cierto y lo que suena cierto.
Detrás de las “alucinaciones”
Un estudio de mayo de 2026 sobre las citas inexistentes reveló que no estaban concentradas en unos pocos trabajos dudosos, sino repartidas en miles de publicaciones, con mayor densidad en las áreas donde la inteligencia artificial creció más rápido. Los sistemas de revisión académica —tanto de versiones preliminares como de revistas con evaluación por pares— no lograron detectarlas. Las alucinaciones no son fallos técnicos aislados: son problemas en los datos de entrenamiento, limitaciones de diseño y fallos en el proceso de generación de texto; forman parte de la arquitectura de los modelos y están presentes incluso en los sistemas más avanzados. Dicho esto, la misma arquitectura que produce esos errores es la que permite que estos sistemas sean extraordinariamente útiles para otras tareas.
Qué puede hacer bien, y dónde necesita supervisión
Los modelos de lenguaje pueden resumir documentos extensos en segundos, reorganizar información dispersa, generar borradores, traducir, sugerir estructuras y asistir en procesos que antes requerían horas. En entornos donde la velocidad y la organización importan, como la generación de ideas, la redacción de primeras versiones o la síntesis de textos ya verificados, su rendimiento es alto y su aporte concreto. En salud, derecho, educación, periodismo e investigación científica, la herramienta también tiene un lugar: puede ayudar a organizar bibliografía, generar resúmenes de documentos largos o asistir en la redacción de informes. Lo que cambia no es si se puede usar, sino cómo.
En esos campos, el factor determinante no es si se usa la herramienta, sino cómo se integra al proceso. Una investigación publicada en 2026 en la revista AI and Ethics sobre supervisión humana en sistemas de inteligencia artificial concluyó que la verificación es más efectiva cuando se diseña como parte del flujo de trabajo y no como un paso opcional al final. En la práctica, eso significa que el periodista confirma los datos antes de publicar, el médico cruza la información con la evidencia clínica disponible y el abogado verifica la jurisprudencia citada. La herramienta asiste; el criterio profesional valida. Ese modelo —al que la literatura especializada llama colaboración híbrida— aparece como el más eficaz en distintos contextos de alta exigencia.
Un estudio publicado en agosto de 2026 por la Escuela Kennedy de Harvard, basado en entrevistas con 29 verificadores profesionales de distintos países, encontró que la inteligencia artificial es vista como una herramienta de apoyo valiosa para tareas de escala y velocidad, pero que la validación final de hechos complejos o sensibles sigue requiriendo juicio humano.
Fuente: Infobae