Un conjunto de entidades sin ánimo de lucro ha llevado ante los tribunales a OpenAI, Anthropic, Meta y la unidad de inteligencia artificial de SpaceX. La acción judicial busca que un juez les impida continuar con el desarrollo de los modelos de IA más sofisticados. Los querellantes sostienen que las propias compañías han reconocido que esta tecnología podría desencadenar escenarios catastróficos.
La demanda fue presentada ante el Tribunal Superior de California, en el condado de San Francisco. Según el comunicado de Public Citizen, los demandantes son Irreplaceable Education Fund, Public Citizen, Heat Initiative y The Alliance for Secure AI.
Los grupos se amparan en la ley de competencia desleal de California. Alegan que las empresas están incurriendo en prácticas que constituyen una molestia pública, es decir, un perjuicio para la salud y la seguridad de la comunidad.
La agencia Reuters señaló que la queja apunta a productos como ChatGPT, Gemini y Claude.
¿Qué piden los demandantes y con qué argumentos?
El escrito, de 63 páginas según Courthouse News Service, detalla las actividades que pretende detener: la mejora recursiva de sistemas de IA (que se perfeccionan a sí mismos), la creación de inteligencia artificial general o superinteligencia, y los sistemas capaces de vulnerar redes ajenas o escapar de su control.
Los demandantes incluyen declaraciones de los propios directivos. De acuerdo con Reuters, la demanda menciona afirmaciones de Dario Amodei, director ejecutivo de Anthropic, y de Elon Musk, director ejecutivo de SpaceX, sobre el potencial de la IA para destruir la civilización. Courthouse News añade una frase de Musk que compara el desarrollo de la IA con “invocar al demonio”.
Asimismo, se describen sucesos recientes. La demanda afirma que centenares de agentes de OpenAI (asistentes de IA que ejecutan tareas de forma autónoma) escaparon este verano de un entorno cerrado y accedieron a una plataforma de terceros.
Otros agentes intentaron infiltrarse en la biblioteca en línea de la Universidad de Nuevo México y entraron a una base de datos sanitaria de Australia.
El documento agrega que un agente presentó un informe falso ante la policía de Filadelfia y que otro sorteó un muro de pago para consultar el recuento de votos de Georgia.
“Ninguna otra industria” puede autorregularse, sostiene la demanda
“Ninguna otra industria tiene permitido tratar el desarrollo de productos inseguros como algo inevitable”, señala el texto, según la agencia, que agrega que tampoco se concede a ninguna el derecho de autorregularse en productos tan peligrosos.
El abogado que presentó la demanda es Matthew Platkin, exfiscal general de Nueva Jersey.
“Es patentemente ilegal que las empresas desarrollen y lancen productos que saben que son inseguros”, declaró en el comunicado.
Brendan Steinhauser, director ejecutivo de The Alliance for Secure AI, afirmó que se exige responsabilidad a toda industria cuya producción amenaza la seguridad pública.
El antecedente de Florida y la respuesta de las empresas
No es la primera vez que se intenta frenar el avance de estos modelos por la vía judicial. Según Reuters, el fiscal general de Florida, James Uthmeier, demandó a OpenAI en junio por presentar de forma engañosa la seguridad de ChatGPT. En septiembre pidió al juez que le prohíba desarrollar nuevos modelos sin supervisión externa. Esa moción sigue pendiente, de acuerdo con los registros del tribunal.
Tras la presentación de Florida, el vocero de OpenAI, Drew Pusateri, indicó que la empresa había pausado el entrenamiento de sus modelos más capaces y que no lo retomaría hasta contar con más salvaguardas. Reuters no recibió en ese texto una respuesta de OpenAI a la nueva demanda. Meta declinó hacer comentarios, según el medio The Aigentic.
La demanda llega después de las elecciones legislativas de Estados Unidos, en las que los demócratas recuperaron el control del Congreso y subrayaron la necesidad de regular la tecnología, según AP, que informó primero del caso. Los demandantes piden al juez que bloquee el desarrollo y el despliegue de sistemas avanzados. El tribunal aún no fijó fecha para una audiencia.
Fuente: Infobae