Un grupo de investigación de la Washington University in St. Louis ha desarrollado SimLBR, un modelo de inteligencia artificial diseñado para detectar imágenes falsas. La estrategia se basa en aprender qué fotografías son auténticas, con el objetivo de enfrentar la creciente sofisticación de los generadores sintéticos, que podrían hacer que, en un futuro cercano, una persona no pueda distinguir una imagen real de una fabricada, según informó el portal especializado TechXplore.
El sistema requiere menos de tres minutos de entrenamiento en una sola GPU, mientras que el método más avanzado disponible necesita dos horas en ocho GPU. Esta diferencia representa una ventaja computacional significativa y reduce el costo del proceso, explicó Aayush Dhakal, estudiante de doctorado en el laboratorio de Nathan Jacobs, profesor de ciencias de la computación e ingeniería en la McKelvey School of Engineering de la Washington University in St. Louis.
Dhakal, junto con colaboradores del Oak Ridge National Laboratory, presentó el modelo en la IEEE/CVF Conference on Computer Vision and Pattern Recognition. Los resultados fueron publicados en el servidor de prepublicaciones arXiv.
Mecanismo de SimLBR
La innovación central de este enfoque radica en que opera en el denominado espacio latente. Esto significa que el sistema proyecta píxeles de muy alta dimensionalidad hacia una representación más reducida mediante un modelo fundacional.
A partir de este proceso, las imágenes se convierten en un vector de 1.024 dimensiones, y el aprendizaje ocurre exclusivamente dentro de ese espacio. El objetivo es evitar el costo computacional de entrenar sobre la totalidad de los píxeles de una imagen.
La propuesta implica un cambio de lógica: en lugar de perseguir los rasgos específicos de cada nueva generación de imágenes falsas, el modelo intenta anclar su criterio en la distribución real. Según el portal, esta decisión busca resolver un problema práctico: los detectores entrenados sobre falsificaciones previas quedan obsoletos cuando aparece un generador nuevo.
El desafío de detectar falsificaciones con IA
Dhakal sostuvo que centrarse en detectar imágenes falsas deja al usuario un paso atrás, porque la tecnología cambia cada vez que los generadores reciben mejoras. En su planteamiento, el problema no es solo la calidad de las imágenes, sino la velocidad con la que cambia su origen.
“Cuando se lanza un nuevo modelo generado por IA, no tendrás acceso a las imágenes que creó previamente. Una vez que tienes ese acceso, puedes entrenar el modelo, pero cuando las imágenes de ese modelo aparecen en las redes sociales o en internet, el detector no las ha visto y no va a poder clasificarlas bien”, explicó el investigador.
Para medir si un detector puede mantener su rendimiento frente a falsificaciones futuras, el equipo diseñó dos métricas: fiabilidad y rendimiento en el peor caso. Una puntuación alta de fiabilidad indica que el detector combina alta precisión con baja incertidumbre, lo que permite estimar con qué nivel de confianza funcionará ante nuevos generadores de IA.
El rendimiento en el peor caso representa el desempeño esperable cuando el detector se enfrenta a un generador futuro que se aparta de aquello con lo que fue entrenado. Esta métrica apunta a un escenario más exigente: no evaluar solo si el sistema acierta hoy, sino cuánto puede resistir cuando cambian las reglas del problema.
Dhakal sintetizó ese criterio con una definición centrada en la distancia respecto de la realidad: “Cada vez que las cosas se desvían lo suficiente de la distribución real, entonces las vamos a clasificar como falsas”. Esa decisión mejora el detector porque el modelo no busca patrones específicos de un generador en particular, sino que reconoce cuándo una imagen se aleja de lo que el mundo real suele producir. “No estamos buscando patrones muy específicos de un modelo generativo”, precisó.
Fuente: Infobae