El acelerado progreso de la inteligencia artificial y su incorporación en las redes sociales ha instaurado desafíos inéditos en lo que respecta a la violencia digital contra las mujeres. Actualmente, las denuncias por la utilización de la IA Grok para la manipulación de fotografías sin el debido consentimiento han puesto en estado de alerta a diversas instituciones públicas. Cientos de usuarias de la red social X exigen medidas contundentes que logren detener la proliferación de estas agresiones en el ecosistema virtual.
Alerta institucional por agresiones de género mediante IA
La Secretaría de las Mujeres de la Ciudad de México ha manifestado una profunda preocupación ante el empleo de la herramienta de inteligencia artificial denominada Grok, la cual fue desarrollada por xAI y opera dentro de la plataforma X (anteriormente Twitter). La inquietud principal radica en su uso para la generación y distribución de imágenes sexualizadas de mujeres sin su autorización.
La máxima autoridad de dicha dependencia, Citlalli Hernández Mora, advirtió que en las semanas recientes se ha registrado una tendencia donde usuarios de la plataforma solicitan a la IA ediciones de fotografías para convertirlas en “imágenes semidesnudas” o con un marcado “carácter sexual”. Según la funcionaria, este comportamiento representa una transgresión directa a la intimidad y una modalidad clara de violencia de género.
En este sentido, Hernández Mora recordó que este tipo de acciones se encuentran tipificadas y castigadas bajo la Ley Olimpia. Dicho marco legal prohíbe explícitamente la difusión, creación o distribución de contenido íntimo, ya sea real o simulado, si no se cuenta con la autorización de la persona afectada.
Cuestionamientos sobre la seguridad y responsabilidad de la red social X
La titular de la Secretaría criticó severamente la carencia de filtros de seguridad efectivos en el sistema Grok. Esta vulnerabilidad ha propiciado que se generen y publiquen hilos con material manipulado en espacios públicos de X. Al realizar una comparativa con otras inteligencias artificiales, como ChatGPT de OpenAI o Gemini de Google, se observa que Grok posee restricciones mucho más laxas. De hecho, el sistema suele ignorar peticiones de restricción, deteniéndose únicamente ante solicitudes explícitas de desnudos integrales.
De acuerdo con las declaraciones de Citlalli Hernández Mora, la institución ha intentado establecer canales de cooperación con diversas corporaciones tecnológicas para robustecer la salvaguarda de los derechos femeninos en internet. No obstante, la respuesta por parte de X ha sido calificada como nula o insuficiente. La problemática se agrava debido a que la empresa no cuenta con representación física ni oficinas en territorio mexicano, lo cual ha dificultado la realización de encuentros formales para tratar esta problemática.
La funcionaria fue enfática al declarar que la carencia de una sede local no libera a las compañías de tecnología de sus obligaciones legales y éticas frente a las usuarias en México. El respeto a la integridad no debe estar condicionado por la ubicación geográfica de un servidor o una oficina corporativa.
Propuestas para erradicar el machismo en entornos tecnológicos
Desde la Secretaría de las Mujeres se hizo un llamado urgente para que todas las plataformas digitales implementen protocolos activos que prevengan la violencia sexual en línea. Hernández Mora ratificó que su oficina mantiene las puertas abiertas para trabajar de forma conjunta con la directiva de X, con el objetivo de optimizar los algoritmos de Grok y evitar que la tecnología se convierta en una herramienta para perpetuar dinámicas machistas y violar la privacidad.
Para concluir, la funcionaria sostuvo que la creación de un espacio digital protegido solo es posible mediante el esfuerzo coordinado entre el sector privado y la ciudadanía, con el fin de consolidar una convivencia fundamentada en el respeto mutuo y la igualdad de género.
Aspectos fundamentales del conflicto con Grok:
- La herramienta Grok ha sido utilizada para fabricar material visual sexualizado sin permiso, configurando actos de violencia digital.
- El marco jurídico de la Ley Olimpia penaliza la producción y repartición de material íntimo simulado o real sin el consentimiento previo.
- La Secretaría de las Mujeres ha exhortado a la empresa X a asumir su compromiso social y mejorar drásticamente sus filtros de seguridad.
- La ausencia de oficinas de X en México ha sido un obstáculo para la comunicación efectiva con las autoridades nacionales.
- Se busca garantizar que la perspectiva de género y la justicia sean aplicadas con el mismo rigor en el mundo físico y en el virtual.
Fuente: Infobae