La empresa OpenAI ha dado a conocer los pasos que seguirá para ajustarse a las exigencias de transparencia de la Unión Europea en materia de inteligencia artificial. La medida, que responde a la nueva Ley de IA, consiste en incorporar una marca de agua imperceptible en los textos producidos por ChatGPT y Codex.
El sistema bautizado como textGrain introduce una señal estadística oculta en la selección de palabras del modelo. Posteriormente, un detector propio rastrea esa señal para determinar si un fragmento tiene la marca de agua de OpenAI.
El despliegue será progresivo. Desde este martes, los usuarios de la API a nivel mundial podrán optar por habilitar la marca de agua en ciertos modelos. No obstante, la compañía aclaró que «se mantendrá desactivada por defecto en la API».
Para los usuarios de la Unión Europea —tanto de ChatGPT como de Codex—, la marca de agua invisible se agregará al texto y al código generado en las próximas semanas.
«La marca de agua de texto y su detección se mantienen como tecnologías incipientes con limitaciones significativas, y las opiniones sobre sus beneficios y usos responsables todavía están evolucionando», señaló OpenAI en su anuncio.
La organización agregó que su «enfoque por fases refleja tanto los requisitos de la Ley de IA de la UE como las limitaciones de la tecnología, con énfasis en la transparencia sobre lo que una marca de agua de texto puede y no puede decir a las personas».
Además, OpenAI ha abierto las solicitudes para acceder al detector de marcas de agua. El acceso estará limitado inicialmente a investigadores y organizaciones de expertos aprobados.
En un informe técnico más detallado, OpenAI describió el funcionamiento de textGrain. Según la empresa: «En nuestras evaluaciones, textGrain igualó o superó el rendimiento de otros enfoques probados, incluido SynthID para texto. Aun así, un alto rendimiento en condiciones ideales no garantiza que la detección sea fiable en el uso cotidiano».
Al igual que Anthropic hizo en agosto —cuando anunció la implementación de su propia marca de agua invisible en Claude y su API, activa ya en Opus 5.5 y Sonnet 5.5—, OpenAI advirtió: «Los detectores pueden cometer dos tipos de errores: pueden indicar una marca de agua donde no hay ninguna —un falso positivo— o pasar por alto una marca de agua que está presente —un falso negativo».
El laboratorio también reconoció las dificultades técnicas que enfrenta textGrain: detectar la marca en textos cortos o técnicos es complicado porque hay poco margen para elegir palabras. Asimismo, en textos editados la detección cae drásticamente. Por ejemplo, si se reemplaza el 25 % de las palabras por sinónimos, la tasa de detección se reduce del 92 % al 17 % en fragmentos de 400 tokens.
Fuente: Infobae