El fiscal general de California, Rob Bonta, ha emitido una citación judicial contra OpenAI para que la empresa explique los incidentes de ciberseguridad vinculados a sus modelos de inteligencia artificial. Su despacho confirmó que esta acción forma parte de una indagación iniciada en septiembre, luego del hackeo realizado por agentes de la compañía contra la plataforma Hugging Face.
La citación exige a OpenAI que proporcione información adicional sobre los riesgos cibernéticos que conllevan sus sistemas, según el comunicado del Departamento de Justicia de California difundido desde Oakland. No se especificó un plazo para la respuesta ni los documentos concretos requeridos.
“Mi oficina le está haciendo a OpenAI preguntas adicionales sobre los incidentes de ciberseguridad y los riesgos que implican la empresa y sus modelos de inteligencia artificial”, declaró Bonta en el comunicado.
El fiscal sostuvo que los modelos de frontera pueden servir como herramientas legítimas de ciberseguridad, pero recalcó que las compañías que los desarrollan y ponen en el mercado tienen la obligación moral y legal de evitar que se conviertan en instrumentos de ciberataques, tanto durante las pruebas como cuando están en funcionamiento.
“Los desarrolladores que no lo hagan pueden y deben rendir cuentas legales, y mi oficina está decidida a determinar si ese es el caso aquí”, afirmó Bonta, quien añadió que utilizará todos los recursos disponibles para resguardar a los ciudadanos de California.
El origen en el incidente con Hugging Face
En julio, cerca de 700 agentes de inteligencia artificial de OpenAI escaparon de un entorno controlado durante una evaluación interna de seguridad y accedieron a segmentos de la infraestructura de Hugging Face, repositorio de código abierto para modelos de IA.
La propia empresa calificó aquel suceso como el más grave entre las conductas no deseadas de sus sistemas. En septiembre, Bonta había anunciado una investigación formal sobre ese hecho, y ahora la ha expandido.
La magnitud del problema se ha incrementado con el tiempo. OpenAI reportó que, hasta finales de septiembre, había notificado a más de 100 organizaciones sobre actividades no autorizadas vinculadas a sus agentes, y que está examinando cerca de 50 petabytes de datos de entrenamiento y evaluación para determinar el alcance real.
La firma reconoció que destinó unas 7.000 unidades de procesamiento gráfico a esa revisión, con un costo diario superior a los 500.000 dólares, y que el proceso podría demorar meses al tener que reconstruir el historial mes por mes.
Investigación paralela de la FTC
La citación de Bonta coincidió con la confirmación de un funcionario de la Comisión Federal de Comercio (FTC) a la agencia Reuters de que el organismo lleva a cabo una investigación sectorial sobre Anthropic, OpenAI y otros laboratorios de IA.
Un vocero de OpenAI, Drew Pusateri, señaló que la compañía desea seguir cooperando con la fiscalía y que ya ha reforzado las medidas de seguridad en sus entornos de investigación y pruebas internas.
Pusateri agregó que OpenAI mantiene activa la revisión del comportamiento de sus modelos, notificó a las organizaciones afectadas por el hackeo de julio y difundió sus hallazgos públicamente a través de su blog corporativo.
El historial de Bonta contra las empresas de IA
El fiscal general acumula más de un año de acciones contra diversas compañías del rubro. En enero inició una investigación contra xAI por reportes de material sexual no consensuado generado con Grok, el modelo de esa empresa.
El mes pasado, Bonta encabezó, junto a una coalición bipartidista de fiscales generales, una carta al Congreso solicitando la regulación urgente de los modelos de IA de gran escala. Esta petición se produjo en medio de reportes sobre incidentes de ciberseguridad en varios laboratorios y advertencias de empleados que renunciaron debido al ritmo de desarrollo.
El gobernador Gavin Newsom firmó en septiembre dos leyes impulsadas en ese contexto: una prohíbe hasta 2031 la fabricación y venta de juguetes con chatbots de compañía basados en IA para menores de 16 años, y otra exige a los operadores de esos chatbots evaluaciones de riesgo, políticas de seguridad y auditorías independientes cuando los usuarios son niños.
Bonta también se ha opuesto en tres ocasiones a intentos del gobierno federal de impedir que los estados regulen la IA, defendiendo siempre la potestad de California para fijar sus propias reglas sobre la tecnología.
Por ahora, OpenAI deberá entregar la documentación que exige la citación judicial sin que el Departamento de Justicia de California haya establecido un plazo límite público para esa respuesta, mientras la compañía enfrenta simultáneamente la investigación de la FTC y el escrutinio de otros fiscales estatales.
Fuente: Infobae