La cuestión de cómo reconocer un contenido creado por inteligencia artificial avanza por rutas divergentes. Mientras Google habilita la eliminación de la marca de agua visible de sus producciones, preserva mecanismos para detectar su origen de forma encubierta. En el otro extremo, la Unión Europea ha incorporado la identificación de ciertos contenidos generados o alterados por IA a sus requisitos de transparencia.
El contraste deja en evidencia un dilema que será cada vez más complejo de resolver a simple vista: ¿cómo saber si una imagen, un video, un audio o un texto fue obra de una persona o de una máquina? Delfina Arambillet, periodista especializada en inteligencia artificial y nuevas tecnologías, abordó esta situación en Infobae a la Tarde y señaló que se requerirán instrumentos capaces de acreditar el origen de esos contenidos.
“Necesitamos que exista una marca de agua”, sostuvo la especialista.
La experta aclaró que esa marca no debe ser obligatoriamente perceptible para el público; podría consistir en una identificación digital incrustada en el archivo, capaz de verificar más tarde si el contenido fue creado o editado por IA.
La identificación invisible de Google
El caso de Google sirve para ilustrar el funcionamiento de este sistema. La compañía desarrolló SynthID, una tecnología que inserta una marca de agua invisible en ciertos contenidos generados por sus modelos, la cual puede ser detectada mediante herramientas especializadas, aunque la señal no aparezca sobre la imagen o el video.
“Google con su modelo Gemini había lanzado hace más de un año algo que se llama SynthID, que es básicamente una marca de agua, pero no visible para el ojo humano”, explicó Arambillet.
La discusión adquiere otra dimensión porque la señal visible y la identificación digital no son equivalentes. Un usuario puede no hallar ninguna indicación respecto a una imagen, mientras que una herramienta especializada todavía puede establecer que fue generada mediante IA. La pregunta entonces gira en torno a quién posee acceso a esa información y bajo qué circunstancias puede emplearla.
Europa convirtió la transparencia en una exigencia
La Unión Europea optó por trasladar ese debate al plano normativo. El AI Act impone obligaciones de transparencia para determinados contenidos generados o manipulados con inteligencia artificial, en especial aquellos que podrían hacer creer a las personas que están ante material auténtico cuando en realidad fueron producidos o alterados artificialmente.
“Es uno de los mercados más grandes a nivel global y que un grupo de países exija a través de una regulación algo que hasta ahora se realiza por buenas prácticas va por el buen camino”, sostuvo Arambillet.
La especialista también relacionó la postura europea con una preocupación más amplia por la soberanía tecnológica y la protección de datos. Europa no concentra el mismo número de grandes empresas de IA que Estados Unidos y, al mismo tiempo, cuenta con una extensa tradición regulatoria en materia de privacidad.
En ese contexto aparece Mistral, la empresa francesa que busca desarrollar modelos propios y competir con los gigantes estadounidenses. Arambillet la definió como “un ChatGPT francés”, creado con el objetivo de entrenar modelos en Europa y con particular fortaleza en francés.
Las empresas tampoco tienen una única mirada
El debate sobre la identificación es parte de una discusión más amplia sobre los límites y los riesgos de la IA. Arambillet destacó que las principales compañías del sector mantienen posturas distintas respecto a cómo debería progresar la tecnología y qué usos estarían dispuestas a permitir.
Uno de los casos que mencionó fue Anthropic, la empresa dirigida por Dario Amodei, quien trabajó en OpenAI antes de distanciarse de la firma. Según Arambillet, Anthropic surgió con una inquietud especialmente marcada por los riesgos de los modelos avanzados y por la necesidad de acompañar su evolución con medidas de seguridad.
Esa posición se extendió también al ámbito militar. La periodista recordó el conflicto entre Anthropic y el Departamento de Defensa de Estados Unidos por ciertas condiciones de uso de sus modelos, y lo contrastó con la actitud de OpenAI, que posteriormente avanzó en acuerdos con el Pentágono.
Para Arambillet, estas diferencias revelan que no existe una filosofía única dentro de la industria de la IA. Cada empresa procura definir sus propios límites y, a la vez, posicionarse frente a una tecnología cuyo alcance aún se sigue ampliando.
El desafío de la Argentina
A juicio de la periodista, la discusión tampoco debería limitarse a las empresas y gobiernos que hoy lideran el desarrollo tecnológico. Argentina también necesita determinar qué papel quiere ocupar frente a una transformación que puede alterar sectores productivos, empleos y las formas de generar y consumir información.
“Como país, tenemos que empezar a pensar en cuál es nuestra estrategia de inteligencia artificial”, afirmó Arambillet.
Para ella, no basta con reaccionar ante cada nueva herramienta; también hace falta definir qué capacidades tecnológicas aspira a desarrollar el país y cómo aprovechar una industria que concentra cada vez más poder económico y estratégico.
La especialista consideró que ese debate todavía tiene un espacio relevante por ocupar en la agenda pública. “No es que hay propuestas concretas o proyectos que se frenan en el Congreso, no está directamente. Ahí hay un gran vacante”, planteó.
El asunto de las marcas de agua es, en definitiva, una de las primeras expresiones de un problema que trasciende a una herramienta o a una empresa. A medida que la IA produce contenidos cada vez más difíciles de distinguir de los humanos, la tecnología y los gobiernos comienzan a buscar mecanismos para acreditar su origen. Entre las identificaciones invisibles de las empresas y las exigencias de transparencia europeas, la discusión empieza a delinear una nueva pregunta para los usuarios: no solo qué están viendo, sino también quién —o qué— lo creó.
Fuente: Infobae