Las autoridades regulatorias del Reino Unido han puesto en marcha una investigación de carácter formal sobre la red social X, propiedad del magnate Elon Musk. Esta acción legal surge tras la detección de un presunto uso indebido de la tecnología de inteligencia artificial conocida como Grok para la creación de deepfakes sexuales. El organismo regulador, Ofcom, actúa bajo el amparo de la Ley de Seguridad en Línea, impulsado por diversas denuncias sobre la generación y circulación de imágenes explícitas no consentidas, las cuales incluyen representaciones sexualizadas de personas menores de edad.
Esta coyuntura sitúa a la empresa X bajo un estricto escrutinio regulatorio, en un momento donde las alertas internacionales aumentan debido al potencial de la IA para confeccionar material digital altamente perjudicial y denigrante.
X en la mira por deepfakes y material sexual no consentido
La intervención directa de Ofcom es una respuesta inmediata a lo que el organismo ha calificado como “informes muy preocupantes”. Estos reportes detallan cómo Grok, el chatbot desarrollado por la propia plataforma X, ha sido utilizado para fabricar y difundir desnudos no autorizados e incluso “imágenes sexualizadas de niños”.
De acuerdo con las declaraciones del ente regulador, el objetivo primordial de esta indagación es corroborar si la red social ha fallado en sus responsabilidades legales respecto a la protección de los usuarios en el entorno digital, tal como lo exige la normativa de la Ley de Seguridad en Línea en territorio británico.
La herramienta Grok, que tuvo su debut oficial en el año 2023, se encuentra disponible de manera gratuita para los usuarios de X, permitiendo la generación de diversos contenidos, desde textos complejos hasta imágenes. No obstante, la implementación de la funcionalidad Grok Imagine, sumada al polémico “modo picante”, ha facilitado considerablemente la creación de contenido para adultos, incrementando exponencialmente el peligro de que se produzcan deepfakes sexuales sin el consentimiento de las víctimas involucradas.
La problemática derivada de Grok ya registra precedentes internacionales de gravedad. Países como Malasia e Indonesia han procedido a realizar bloqueos recientes tras las denuncias de sus autoridades locales sobre el uso de esta inteligencia artificial para crear representaciones sexuales ficticias. Esta crisis de escala global ha puesto una presión sin precedentes sobre la administración de X para que implemente sistemas de control y prevención mucho más rigurosos.
Consecuencias legales y posibles sanciones financieras para X
El proceso de investigación formal iniciado por Ofcom no se limita únicamente a un análisis de las prácticas internas de X, sino que acarrea la posibilidad de sanciones económicas y operativas de gran impacto si se confirma la violación de las leyes vigentes. En su comunicado oficial, el regulador enfatizó:
“Hemos decidido abrir una investigación formal para determinar si X ha incumplido sus obligaciones legales en virtud de la Ley de Seguridad en Línea”
.
En el escenario de que la compañía liderada por Elon Musk sea incapaz de cumplir con los estándares de seguridad demandados, Ofcom posee la autoridad legal para solicitar ante los tribunales una orden que bloquee de forma total el acceso a la plataforma X dentro del Reino Unido.
A nivel financiero, la legislación otorga al organismo la capacidad de aplicar multas que podrían ascender hasta el 10% de los ingresos anuales globales de la corporación o un monto fijo de 18 millones de libras esterlinas (equivalente a unos 20 millones de euros). Estas cifras representan una amenaza económica considerable que busca obligar a la empresa a reestructurar sus políticas de seguridad en torno al uso de la inteligencia artificial.
Trayectoria de Grok y los nuevos desafíos de la regulación digital
Desde su presentación en la red social X durante el año 2023, Grok fue promocionado como un asistente virtual de vanguardia con capacidades multimedia. Sin embargo, su función Grok Imagine y el ya mencionado “modo picante” han estado permanentemente rodeados de controversia por su permisividad en la generación de imágenes para adultos.
El mal uso de este tipo de herramientas tecnológicas, especialmente en lo que respecta a los deepfakes sexuales, ha forzado a diversos gobiernos a revisar sus marcos legales. El actual conflicto entre X y el regulador británico es un reflejo de los desafíos que enfrentan los organismos internacionales para asegurar que las empresas tecnológicas establezcan salvaguardas reales contra la propagación de contenidos dañinos, velando siempre por la integridad de las personas y, de manera prioritaria, por la seguridad de los menores de edad.
Fuente: Infobae