El escritor estadounidense Steven Rosenbaum, autor del libro de no ficción The Future of Truth —una obra que explora el impacto de la inteligencia artificial en la noción de verdad—, admitió públicamente que incorporó numerosas citas inventadas o mal atribuidas que fueron generadas por sistemas de IA. La confesión se produjo luego de que The New York Times lo contactara para verificar varios pasajes del texto.
De acuerdo con la investigación del diario, el libro —lanzado este mes con una importante campaña promocional— contiene más de media docena de citas falsas o incorrectamente atribuidas en las secciones que fueron revisadas. Rosenbaum, quien también es director ejecutivo del Sustainable Media Center, una organización sin fines de lucro dedicada a la educación mediática, señaló en un comunicado que la inclusión de estas citas fue un accidente y que no existió «ninguna intención de inventar puntos de vista» al momento de escribir la obra.
En su declaración, Rosenbaum explicó:
«Como revelé en los agradecimientos del libro, utilicé las herramientas de IA ChatGPT y Claude durante el proceso de investigación, redacción y edición. Eso no excusa estos errores, de los que asumo toda la responsabilidad. Ahora estoy trabajando con los editores para revisar a fondo y corregir rápidamente los pasajes afectados; cualquier edición futura estará corregida».
El libro fue publicado por un sello de BenBella Books y distribuido por Simon & Schuster. Hasta el momento, BenBella Books no ha emitido comentarios, mientras que Simon & Schuster declinó pronunciarse.
Citas falsas y personajes aludidos
Entre los pasajes cuestionados se encuentra una cita atribuida a la periodista tecnológica Kara Swisher, quien en un capítulo sobre las mentiras de la IA aparece diciendo:
«El modelo lingüístico de IA más sofisticado es como un espejo. Nos devuelve un reflejo de nuestra propia moralidad, pulida y bien formulada, pero en última instancia vacía tras la superficie. No se rige por las leyes de Asimov ni por ningún marco ético, se rige por los patrones de sus datos de entrenamiento y los objetivos fijados por sus creadores».
Sin embargo, Swisher negó rotundamente haber dicho esas palabras. En un mensaje de texto, afirmó que «nunca» pronunció esa frase y añadió, con tono irónico, que «parece que soy supertiesa, según ChatGPT».
Otro capítulo, centrado en los efectos de las redes sociales y los videos falsos en adolescentes, incluye dos citas del libro La vida secreta del cerebro: Cómo se construyen las emociones, de la profesora Lisa Feldman Barrett, de la Universidad Northeastern. Una de ellas reza:
«Las emociones no solo son reacciones a la verdad, son la forma en que construimos la verdad. Cuando los jóvenes dicen que algo ‘se siente verdadero’, están describiendo un sofisticado proceso de construcción de significados que integra señales emocionales y sociales».
Barrett respondió por correo electrónico al Times que esas citas «no aparecen en el libro y además están mal». La académica precisó que jamás utilizaría expresiones como «las emociones no solo son reacciones a la verdad» y que el concepto de «verdad» en ciencia es complejo y ella tiende a evitarlo. Tampoco hablaría de «señales emocionales o sociales» como algo integrado, ya que las señales son neutras y es el cerebro quien les asigna un significado emocional o social.
Atribuciones incorrectas y alucinaciones de IA
Algunas partes del libro contienen citas reales pero mal atribuidas. Un capítulo cita Artificial Unintelligence, de la profesora Meredith Broussard (Universidad de Nueva York). La cita es auténtica, pero no pertenece a ese libro, sino a una entrevista que Broussard dio en 2023 al programa Marketplace Tech. Broussard comentó:
«Parece que se trata de una alucinación de la IA o de una cita mal atribuida».
También se menciona al investigador Lee McIntyre, del Centro de Filosofía e Historia de la Ciencia de la Universidad de Boston, citado en un capítulo sobre el «mundo posverdad» agravado por la IA. La cita incluye la frase «una forma de supremacía ideológica» y la idea de que la falsedad se usa estratégicamente «no para desinformar, sino para desplazar a la verdad como valor social». McIntyre confirmó que la primera parte es precisa, pero que la segunda parte no es textual. No obstante, considera que la idea es «coherente con mi trabajo», aunque reconoció que la expresión «valor social» le resulta extraña y que él nunca ha usado esa frase.
En su defensa, Rosenbaum declaró que si este episodio «sirve de advertencia sobre los riesgos de la investigación y la verificación asistidas por IA, para eso escribí el libro». Añadió que «estos errores de IA no restan valor a las cuestiones más amplias que plantea el libro sobre la verdad, la confianza y la IA y su impacto en la sociedad, la democracia y la labor editorial».
El caso ha generado controversia en el mundo editorial, que ya teme publicar accidentalmente obras generadas o contaminadas por IA. Este año, la editorial Hachette canceló una novela de terror que estaba por publicarse tras acusaciones de que la autora había usado IA para esbozar el libro.
A pesar de las citas falsas, The Future of Truth ha atraído gran atención. Un fragmento fue publicado en la revista Wired y cuenta con reseñas promocionales de periodistas de renombre como Taylor Lorenz, Michael Wolff y Nicholas Thompson, director ejecutivo de The Atlantic. El prólogo fue escrito por Maria Ressa, periodista y Premio Nobel de la Paz, conocida por su férrea oposición al expresidente filipino Rodrigo Duterte.
El propio Rosenbaum es una figura conocida en la industria mediática. Además de dirigir el Sustainable Media Center —organización que, según su misión, busca dar a una nueva generación de consumidores y creadores de medios «la propiedad de sus vidas, cada vez más centradas en los medios»—, ha organizado encuentros y entrevistas en línea con personalidades del sector tecnológico y periodístico. El centro ha reunido a figuras como las antes mencionadas en eventos presenciales y virtuales.
Benjamin Mullin, reportero del Times que cubre las grandes empresas de noticias y entretenimiento, fue quien realizó la investigación y el contacto con Rosenbaum para esclarecer estos pasajes.
Fuente: Infobae