La proliferación de contenido digital, sobre todo el generado o modificado con inteligencia artificial, ha vuelto esencial conocer el origen y la autenticidad de imágenes y videos. Google responde a este reto expandiendo su tecnología de verificación, permitiendo a cualquier usuario descubrir cómo, cuándo y con qué herramientas se creó o editó un archivo multimedia. Este avance marca un hito en transparencia digital y en la lucha contra la desinformación, facilitando una navegación más segura en la era de los medios generativos.
La actualización llega cuando la edición avanzada y la generación sintética están al alcance de millones. Saber si un archivo es auténtico, fue manipulado o creado por IA se vuelve una herramienta clave para usuarios, empresas, medios y organismos de control.
SynthID, Content Credentials y la marca de agua digital
Google inició hace tres años con SynthID, una tecnología de marca de agua digital que inserta señales invisibles en contenido generado por IA, sin afectar su calidad. Desde entonces, SynthID se ha integrado en modelos y productos de Google, marcando más de 100 mil millones de archivos visuales y decenas de miles de horas de audio.
El estándar C2PA Content Credentials, adoptado por Google y otros actores clave, añade otra capa de transparencia. Muestra detalles sobre creación, edición y herramientas usadas, sean manuales o automáticas. Los modelos Pixel 8, 9 y 10 ya incluyen esta función para imágenes y, próximamente, para video, permitiendo identificar si el contenido proviene directamente de una cámara o ha sido manipulado.
Nuevas formas de verificar contenido en la web
La expansión llega a varias plataformas de Google: Search, Gemini, Chrome, Pixel y Google Cloud. Los usuarios pueden usar funciones como Lens, Modo IA y Circle to Search para consultar el origen de una imagen. Basta preguntar: “¿Esto fue hecho con IA?” o “¿Esta imagen ha sido editada?”, y la tecnología cruzará los datos de SynthID y Content Credentials para responder.
La verificación también se integra en la app Gemini, que ya ha procesado más de 50 millones de consultas globalmente. En las próximas semanas, estas capacidades llegarán a Chrome, permitiendo comprobar la autenticidad desde el navegador.
En YouTube, la plataforma etiqueta el contenido generado o alterado con IA, y servicios como Backstory colaboran para optimizar la detección ante fraudes o manipulaciones.
Colaboraciones y adopción en la industria
Ante la rápida difusión de contenidos, Google impulsa la colaboración con otras empresas para establecer estándares sólidos e interoperables. OpenAI, Kakao, ElevenLabs y NVIDIA ya usan SynthID en sus modelos, y Meta implementará Content Credentials en Instagram para reconocer medios capturados con cámaras nativas de dispositivos Pixel.
En el ámbito corporativo, Google Cloud lanzará una nueva API de Detección de Contenido por IA, diseñada para que empresas identifiquen y gestionen archivos generados o modificados por IA, tanto para operaciones internas como para ofrecer mayor seguridad a los usuarios.
El objetivo de Google es que más archivos en la web lleven estas marcas de agua y credenciales, facilitando la verificación rápida y confiable de su procedencia. Así se combate la manipulación, se previene el fraude y se promueve la confianza en la información digital.
El trabajo de Google junto al comité directivo de C2PA busca que estas herramientas sean universales y funcionen en todas las plataformas, apps y redes sociales del ecosistema digital.
En un escenario donde la desinformación puede propagarse rápidamente, la capacidad de verificar la historia y el origen de cualquier contenido se vuelve imprescindible.
Fuente: Infobae