Una herramienta contra la desinformación
En la era actual, donde la inteligencia artificial ha sembrado dudas sobre lo real y lo falso, Google puso a disposición del público su herramienta SynthID Detector a principios de octubre. Con ella, cualquier persona puede verificar de manera sencilla si un contenido fue creado mediante IA.
Hoy en día, generar imágenes, grabaciones, texto o sonido está al alcance de cualquiera que tenga conexión a internet y utilice alguno de los múltiples modelos de IA disponibles. Esta facilidad de acceso y el realismo cada vez mayor de los contenidos artificiales han provocado una pérdida de confianza y veracidad, especialmente por la saturación de redes sociales con material falso, suplantaciones de identidad y otras tácticas de desinformación.
Para devolver el control a los usuarios sobre lo que ven, Google presentó SynthID Detector en 2023 como un mecanismo para diferenciar e identificar imágenes generadas por IA. Inicialmente, la herramienta estaba reservada para profesionales de medios de comunicación, pero ahora se ha abierto al público general, permitiendo que cualquiera compruebe si una fotografía, un vídeo o un clip de audio fue creado con inteligencia artificial.
¿Cómo usar SynthID?
Existen dos formas principales de acceder: a través de la aplicación Gemini o desde el sitio web synthid.com. En la versión web, basta con hacer clic en el icono de adjuntar y seleccionar el archivo (imagen, texto, audio o vídeo) que se desea analizar. También es posible arrastrar el elemento directamente a la página.
SynthID examina el contenido en segundo plano y, tras unos segundos, informa si ha detectado la marca invisible SynthID, lo que indica que el material fue generado o modificado con IA. En la aplicación Gemini, el proceso es similar: se adjunta el contenido y se añade una pregunta en la caja de contexto, como “¿Esta imagen fue generada o editada con IA?” o “¿Tiene marca de agua de IA este archivo?” Incluso preguntas más simples como “¿Este vídeo es real?” son válidas. El asistente de Google analizará el contenido con la tecnología de SynthID y responderá si detectó o no la firma invisible.
Funcionamiento de SynthID Detector
Para entender cómo se determina si un contenido fue generado o modificado con IA, es clave conocer el principio de la tecnología SynthID. Se trata de un sistema que integra marcas de agua digitales invisibles en los píxeles de las imágenes o en los componentes de texto y audio del contenido producido por IA. Estas marcas son imperceptibles para el ojo humano, pero un software especializado puede identificarlas.
Esto no solo ocurre al generar contenido con la IA de Google, sino también al usar la IA de socios como OpenAI, Nvidia, Kakao y, próximamente, Apple. Además, en el proceso de identificación se emplean credenciales de contenido, que Google define como un pasaporte digital para el material, documentando su origen y el historial de uso. Estas credenciales se aplican tanto a contenidos generados por IA como a aquellos creados por humanos.
Interpretación de los resultados
Google aclara que si se detecta una marca de agua SynthID, significa que la imagen o el vídeo fueron creados “en su totalidad o en parte” con modelos de IA. En el caso de los vídeos, se indicará en qué fragmentos se halló la marca. Es importante señalar que la huella digital persiste incluso si el contenido fue modificado posteriormente para ocultarla.
Por el contrario, si no se detecta ninguna marca, ello indica que el material no fue creado con la IA de Google ni de las empresas asociadas, aunque podría haber sido generado con otros sistemas de IA. En algunas ocasiones, SynthID no puede asegurar si una imagen o vídeo fue creado o editado con IA de Google, principalmente cuando la imagen es abstracta o contiene pocos detalles, o cuando la alteración de la marca es demasiado sutil para ser reconocida.
Condiciones y limitaciones
A pesar de su facilidad de uso, la herramienta tiene ciertas restricciones. Google señala un límite en la cantidad de archivos que se pueden verificar y establece un peso máximo de 100 MB por archivo. Además, los vídeos pueden durar como máximo 90 segundos y el audio hasta una hora. Si se superan estos límites, el análisis no funcionará. También se exige iniciar sesión con una cuenta de Google para verificar imágenes o vídeos.
La herramienta no es infalible: no puede identificar contenido generado por IA que no incluya las marcas de agua digitales propias. Aunque compañías como Nvidia y OpenAI se han sumado a la iniciativa, otras como Meta o Amazon aún no han adoptado este sistema.
Otras formas de detectar IA
Existen alternativas a SynthID. Meta apuesta por su propia tecnología, que agrega etiquetas visibles al contenido generado con Meta AI. Estas etiquetas aparecen en la parte superior de publicaciones o junto al nombre del usuario. Para vídeos, Meta dispone de Video Seal, una herramienta de marcas de agua. Además, se puede verificar contenido a través de su detector web.
Apple trabaja en Apple Reference Image, para diferenciar imágenes de IA de las capturadas por un iPhone. OpenAI tiene un sitio web para comprobar si los contenidos fueron generados por sus modelos.
Más allá de estas iniciativas, diversas compañías como Adobe, Google, Intel, Microsoft, Meta, OpenAI, Sony, Truepic y Amazon forman parte de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), un proyecto que permite a editores, empresas y creadores incorporar metadatos en sus materiales visuales y de audio para verificar su origen e información asociada.
Fuente: Infobae