Los chatbots de inteligencia artificial se han convertido en una herramienta popular para verificar declaraciones políticas, pero diversos estudios advierten sobre los peligros de confiar ciegamente en sus respuestas. Según el Instituto Reuters, el uso de estos sistemas para informarse se duplicó en el último año, con Argentina entre los países con mayor crecimiento. Esta tendencia responde a la expectativa de obtener respuestas rápidas y fundamentadas, aunque la realidad muestra importantes limitaciones.
Una exploración realizada por Chequeado sobre la confiabilidad de los chatbots para verificar afirmaciones políticas reveló que el 36% de las respuestas analizadas presentó algún tipo de problema informativo. Los errores van desde cifras incorrectas y alucinaciones de frases o fuentes inexistentes, hasta fallas en el uso de estadísticas, incompatibilidad metodológica y argumentaciones engañosas.
Fallos frecuentes en la verificación política con IA
Uno de los aspectos más preocupantes es la frecuencia de los errores. La organización NewsGuard documentó que los principales modelos de IA repiten información falsa en más de un tercio de sus respuestas sobre temas de actualidad. Investigaciones de AI Democracy Projects, Proof News y Factchequeado, centradas en la precisión de respuestas sobre elecciones, detectaron que los errores son aún más frecuentes al consultar en español: el 52% de las respuestas en español incluía información errónea, frente al 43% en inglés.
Estos fallos no se limitan a simples imprecisiones. Los chatbots pueden mezclar datos correctos con otros fuera de contexto, llegar a conclusiones incorrectas o, incluso, inventar fuentes y documentos. La tendencia a ofrecer respuestas que parecen confiables, aunque no lo sean, es un riesgo adicional, ya que los modelos de IA priorizan la coherencia antes que la veracidad, generando explicaciones convincentes pero no necesariamente ajustadas a los hechos.
¿Por qué fallan los chatbots?
Los problemas detectados están relacionados con la arquitectura y el entrenamiento de estos sistemas. Laura Alonso Alemany, profesora e investigadora en Ciencias de la Computación de la Universidad Nacional de Córdoba, explicó que los chatbots generan la secuencia de palabras más probable dado el contexto sin priorizar la veracidad. El objetivo principal es que la respuesta resulte coherente y creíble, no necesariamente correcta.
Además, los sistemas son entrenados con grandes volúmenes de texto de internet y reciben instrucciones para mantener un tono amable, expresar certeza y evitar confrontaciones. El informe del Instituto Reuters destaca que, si bien la adopción de chatbots crece en todo el mundo, la preocupación por la calidad informativa también se expande, presentando inconsistencias internas, desvíos respecto al eje de la pregunta y lenguaje tendencioso.
Dificultades para detectar errores
Uno de los mayores riesgos de confiar ciegamente en chatbots de IA para verificar afirmaciones políticas es que los errores suelen ser difíciles de detectar, especialmente cuando se presentan en respuestas bien redactadas y con apariencia de autoridad. La investigación de la BBC sobre asistentes de IA subraya que, incluso al utilizar fuentes periodísticas de calidad, los modelos pueden distorsionar los contenidos, omitir datos relevantes o priorizar información irrelevante para la pregunta original.
El problema se agrava cuando los chatbots ofrecen respuestas que aparentan ser definitivas, pero en realidad combinan fragmentos de datos sin contexto o incluyen omisiones críticas. Esto ocurre, por ejemplo, en preguntas sobre la seguridad del voto por correo en Estados Unidos, donde modelos como Gemini generaron dudas infundadas pese a la existencia de estudios sólidos que avalan la seguridad del sistema.
La tendencia de los modelos a no reconocer sus propios límites lleva a que, ante la falta de información suficiente, ofrezcan respuestas incompletas, ambiguas o directamente equivocadas. Las pruebas de AI Democracy Projects muestran que, en muchos casos, los sistemas no cumplen con las pautas de redirigir a fuentes oficiales o confiables, pese a las promesas de las empresas desarrolladoras.
Fuente: Infobae