En San Francisco, el auge de la inteligencia artificial ha convertido los resultados de búsqueda de Google en un catálogo de recetas inverosímiles, las listas de Amazon en un cúmulo de biografías falsas y los muros de Facebook en un escaparate de imágenes absurdas, como el famoso ‘Jesús camarón’.
Esa avalancha de material ‘chatarra’ ha invadido las plataformas tecnológicas, devaluando el contenido legítimo y contaminando el ecosistema informativo, mientras los asistentes virtuales y los generadores de video avanzan sin control. Silicon Valley, sin embargo, ha decidido tomar cartas en el asunto.
La respuesta de las plataformas
Por ejemplo, Spotify afirmó que el año pasado eliminó 75 millones de pistas duplicadas o de dudosa calidad, una porción considerable de su catálogo. En julio, LinkedIn manifestó que «la basura generada por la IA es una prioridad absoluta para todos nosotros» y habilitó un botón de denuncia. Investigadores de Google, la casa matriz de YouTube, describieron cómo el servicio de video desactivó 130.000 canales dedicados a contenido de baja calidad en un plazo de seis meses.
Las grandes firmas tecnológicas han emprendido una suerte de desintoxicación digital contra el ‘slop’ producido por sistemas generativos, un flagelo que en buena medida ellas mismas provocaron al lanzar al mercado herramientas de IA. Mensajería, reseñas gastronómicas, archivos académicos y aplicaciones de citas también están optando por borrar o reducir ese material, valiéndose a menudo de la propia IA para detectarlo.
El costo de la IA generativa
El público cada vez muestra más hartazgo por el costo ambiental de la IA, su repercusión en el empleo y el bienestar emocional. Para Aidan Walker, creador de contenido e investigador de la Carnegie Endowment for International Peace, la ‘basura IA’ no es más que otra ‘herida infectada’.
‘Los usuarios cada vez se molestan más por esto’, expresó. ‘La opinión pública ha cambiado de manera evidente y estas empresas finalmente están haciendo frente a dichos problemas’.
Aunque la IA generativa es capaz de crear imágenes, sonidos y videos cada vez más realistas, no todo lo que produce es desechable. Las compañías apuntan contra el material sensacionalista de bajo costo de producción, fácil de viralizar y de olvidar, equivalente a la comida chatarra o a la moda desechable. En un informe del año pasado, investigadores europeos advirtieron que, sin controles, ese pantano sintético podría «desplazar la creatividad humana, corroer los valores culturales y desestabilizar el discurso público».
La palabra ‘slop’ se ha popularizado tanto que Merriam-Webster la designó como la palabra del año 2025. Deezer, la plataforma francesa de streaming, informó que casi la mitad de las canciones que se añaden a diario a su sistema son generadas artificialmente, y muchas nunca se escuchan. Apple Music no se queda atrás: más de un tercio de los nuevos lanzamientos provienen de algoritmos.
Hacia fines de 2024, Adam Mosseri, director de Instagram, señaló que pronto «será más práctico» identificar «contenidos reales que contenidos falsos». Sus declaraciones llegaron luego de que Meta, la firma matriz de Instagram, lanzara una función de video impulsada íntegramente por IA, ridiculizada por muchos como un muestrario de material relleno.
No deja de ser paradójico que muchas de las empresas que ahora luchan contra la basura IA sean las mismas que la facilitan. En julio, Meta se comprometió a respaldar un pacto europeo para etiquetar y clasificar mejor el contenido sintético. Sin embargo, ese mismo mes lanzó un generador de imágenes que utilizaba automáticamente cuentas públicas de Instagram como referencia, lo que generó críticas y la retirada de la función en apenas tres días.
Paul Shovlin, académico de la Universidad de Ohio, describió el fenómeno como un arma de dos filos:
«El contenido basura generado por la IA es un arma de dos filos, ya que muchas de estas plataformas experimentaron un aumento en la participación gracias a él. Pero luego, llegó un punto en el que se convirtió en un lastre porque hay tanta basura que ahora es difícil para los usuarios encontrar el tipo de calidad que buscan».
Estrategias en marcha
Google ha integrado su asistente Gemini en el correo, los mapas, los viajes y el buscador. Un experimento de Kapwing, una herramienta de edición de video en línea, reveló que más del 20% de los videos cortos que YouTube presenta a los recién llegados son material sintético de relleno. Kapwing estimó que uno de los canales más populares de ‘basura’ llegaba a embolsar 4,25 millones de dólares al año, hasta que YouTube lo suspendió de su programa de monetización. Neal Mohan, consejero delegado de YouTube, escribió en un blog que «gestionar el contenido basura generado por la IA» era una prioridad absoluta para este año.
El equipo de investigación de Google se concentró en detectar patrones de subida inusualmente rápidos, plantillas reiterativas y otras señales de actividad coordinada. Así identificaron 50.000 clústeres de cuentas, que fueron dadas de baja. No obstante, a algunos especialistas en medios digitales les preocupaba que el enfoque pudiera penalizar a creadores legítimos que publican grandes volúmenes de material. En un comunicado, YouTube defendió su estrategia: «Si bien la investigación académica ayuda a mejorar la comprensión de la industria, no refleja las múltiples capas de defensa que utilizamos para hacer cumplir nuestras políticas. Esto incluye medidas de protección sólidas para garantizar que los creadores bien intencionados que utilizan herramientas de IA no se vean afectados».
Otras plataformas han optado por involucrar a su comunidad. Pinterest habilitó en octubre un control para que cada usuario limite la cantidad de publicaciones sintéticas en su feed. TikTok probó en Estados Unidos una función que permite aumentar o disminuir la presencia de contenido IA, además de haber marcado más de 3.000 millones de videos generados por esa tecnología. También eliminó más de 377.000 videos durante los primeros tres meses del año por violar sus políticas sobre IA.
La startup Pangram, dedicada a detectar material sintético, calcula que casi la mitad de las publicaciones de más de 50 palabras en la red social X, propiedad de Elon Musk, provienen de IA. Para atajar «una enorme cantidad de contenido basura generado por IA y respuestas no deseadas», la plataforma prohibió este año las aplicaciones que incentivan a los bots a publicar a cambio de pago, según explicó Nikita Bier, hasta hace poco directora de producto de X.
Chris Best, director ejecutivo de Substack, señaló el mes pasado que «cada vez es más difícil distinguir qué es real en Internet» y que «las plataformas que premian lo falso provocarán una carrera hacia el abismo». Substack puso en marcha un detector de IA elaborado con Pangram, el cual examina respuestas, comentarios y textos de más de 100 palabras para determinar si fueron escritos por una persona o por un algoritmo. No faltaron las quejas entre los autores de boletines, quienes aseguraron que la herramienta marcaba como sintéticos textos escritos por humanos, no tomaba en cuenta el posible papel de la IA en el proceso creativo y ejercía una presión indebida sobre los creadores para que defendieran su reputación ante una métrica opaca.
Un problema sistémico
En primavera, Camille François y cerca de dos docenas de otros expertos en IA se reunieron en el evento Slop Salon, en Menlo Park, California, para debatir la dificultad de clasificar y, por tanto, de gestionar el contenido basura generado por IA.
«La mezcolanza de tácticas es un síntoma de que nos estamos enfrentando a un problema sistémico en nuestro entorno informativo y no solo a una mala categoría de contenido llamada ‘slop’ que podamos simplemente definir y eliminar», declaró François, quien estudia tecnologías digitales dañinas en la Universidad de Columbia. «Al fin y al cabo, la IA es una herramienta de creatividad y es multifacética; las plataformas que manejen esto de manera deficiente verán cómo la gente se va y busca otros lugares».
La purga contra la ‘basura IA’ apenas comienza, y las propias plataformas deberán aprender a navegar entre la censura y la creatividad para no ahogar a sus usuarios en un mar de contenido sin valor.
Fuente: Infobae