xAI, la compañía de inteligencia artificial fundada por Elon Musk, interpuso una demanda civil contra un hombre identificado como Harwood por utilizar su chatbot Grok para crear y distribuir material de abuso sexual infantil. La acción legal fue presentada el 14 de julio ante un tribunal federal en Texas.
Según la documentación judicial, el acusado “deliberada e intencionalmente utilizó Grok para eludir las salvaguardas, alterar imágenes sin consentimiento, y generar y distribuir material de abuso sexual infantil”, violando los términos de servicio de la plataforma. La empresa sostiene que Harwood creó múltiples cuentas en xAI y empleó instrucciones engañosas para fabricar deepfakes explícitos tanto de adultos como de menores de edad.
El acusado ya enfrentaba cargos penales
Harwood fue arrestado en febrero por posesión y distribución de material de abuso sexual infantil, y actualmente enfrenta ocho cargos penales. La demanda civil de xAI señala que “al menos algunas” de las imágenes vinculadas a esos cargos fueron generadas o alteradas con Grok. El acusado habría utilizado la herramienta para convertir fotografías no sexuales en imágenes sexualmente explícitas sin el consentimiento de las personas retratadas, entre ellas menores.
La compañía alega que Harwood diseñó esas instrucciones con el propósito de evadir los sistemas de protección integrados en la plataforma para impedir la generación de contenido explícito con menores. Como parte de sus esfuerzos internos, xAI reveló que durante 2026 suspendió 52.222 cuentas y realizó 73.604 reportes al Centro Nacional para Menores Desaparecidos y Explotados (NCMEC), lo que resultó en al menos 244 arrestos.
Lo que xAI solicita al tribunal
La empresa pide al juez una orden que prohíba de forma permanente a Harwood crear cuentas en xAI o utilizar Grok. Además, exige una compensación económica por daños no especificados y el reembolso de los gastos razonables en que incurra la empresa al defenderse en cualquier acción legal iniciada por una víctima de la conducta del demandado.
“Las acciones del demandado constituyeron un plan calculado para weaponizar la herramienta de la empresa con fines criminales, exponiendo a víctimas reales a un daño profundo y duradero, al tiempo que exponía a la empresa a un riesgo legal significativo y a daños reputacionales”, sostuvo xAI en la demanda.
Contexto de la demanda contra Grok
Esta acción legal llega tras meses de críticas internacionales a xAI por las capacidades de Grok para generar deepfakes sexualizados sin consentimiento. Después de incorporar un modo denominado “picante” y la función de edición de imágenes, el chatbot fue señalado por producir imágenes sexualizadas de menores. Elon Musk respondió públicamente con una advertencia: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. La demanda contra Harwood representa la primera vez que xAI materializa esa amenaza en los tribunales.
Fuente: Infobae
