En el estado de Florida, las autoridades han presentado un plan para que las compañías de tecnología asuman consecuencias legales cuando sus sistemas de inteligencia artificial participen en actividades delictivas. Esta iniciativa, que aún está en desarrollo, podría marcar un precedente en Estados Unidos al extender la responsabilidad penal y civil a las empresas que crean y distribuyen estas herramientas. El anuncio fue hecho por el fiscal general de Florida, James Uthmeier, quien detalló que se contemplan sanciones tanto civiles como penales para aquellos casos en que los sistemas de IA proporcionen asistencia directa en la planeación o ejecución de crímenes.
La propuesta apunta a empresas que controlan o distribuyen sistemas de inteligencia artificial
El proyecto, que aún se encuentra en etapa inicial, afectaría a las compañías que tengan, gestionen o distribuyan chatbots y otros sistemas basados en inteligencia artificial. Las posibles penalidades abarcan desde multas cuantiosas, indemnizaciones para las víctimas, medidas cautelares impuestas por jueces y, en situaciones extremas, la prohibición de operar comercialmente en el territorio floridano.
Uthmeier expuso esta propuesta durante un evento en Tampa, junto al comisionado del Departamento de Aplicación de la Ley de Florida, Mark Glass. En su intervención, señaló que ciertas plataformas ya no solo brindan información pública, sino que son capaces de mantener conversaciones complejas, evaluar opciones y ofrecer instrucciones paso a paso a los usuarios. Por ello, el fiscal pretende que la legislación defina el momento en que esa interacción deja de ser una respuesta neutral y se convierte en una contribución activa a un delito.
El proyecto aún no define qué conducta convertiría a una plataforma en partícipe de un delito
Uno de los aspectos más debatidos es que todavía no existe un texto legislativo concreto. Hasta ahora, no se ha especificado qué acciones concretas de una empresa tecnológica serían consideradas participación criminal, qué grado de conocimiento debería demostrar la Fiscalía, ni cómo diferenciar entre una consulta teórica y una ayuda efectiva para perpetrar un ilícito.
Esta falta de claridad genera incertidumbre jurídica y operativa. También abre el debate sobre hasta dónde llega la responsabilidad corporativa cuando una herramienta automatizada genera contenido que un tercero utiliza para cometer delitos. En ese contexto, Uthmeier sostuvo que ciertas interacciones con sistemas de inteligencia artificial deberían disparar alertas de seguridad, especialmente si incluyen preguntas repetitivas sobre armas, ubicaciones, horarios o métodos para eliminar evidencia.
La investigación sobre un tiroteo en Florida State University aceleró el debate
El avance de esta propuesta se da en paralelo a una investigación sobre el posible uso de ChatGPT antes de un tiroteo en la Florida State University. De acuerdo con la fiscalía, el presunto agresor habría consultado la plataforma acerca de armas y tácticas de planificación previo al ataque.
Ante esto, OpenAI ha proporcionado datos a las autoridades y sigue cooperando con las pesquisas. No obstante, hasta el momento no se ha determinado que la empresa tenga responsabilidad penal. Este punto es fundamental para comprender el contexto: aunque el caso no ha concluido si la plataforma tuvo algún papel legal en los hechos, ha intensificado el debate político sobre la necesidad de regulaciones más severas.
Adicionalmente, las autoridades estatales están preocupadas por otros usos indebidos: la facilitación de estafas, la creación de contenido de abuso sexual infantil generado por IA, y la entrega de respuestas que los usuarios puedan tomar como consejo profesional en áreas delicadas como la medicina.
Florida también quiere revisar si los chatbots incurren en práctica médica no autorizada
Uthmeier también anunció que solicitará a la Junta de Medicina de Florida que analice si algunos chatbots están ejerciendo la medicina sin licencia al dar recomendaciones que podrían interpretarse como diagnósticos o tratamientos. Por su parte, Mark Glass advirtió que las respuestas de estas herramientas pueden ser tan convincentes que algunas personas las sigan sin consultar a un profesional de la salud.
Florida ya había avanzado en esta área: anteriormente, tipificó como delito grave de segundo grado la generación de imágenes de abuso sexual infantil mediante inteligencia artificial. La nueva propuesta ampliaría ese marco, desplazando el foco desde los usuarios individuales hacia las corporaciones que diseñan, entrenan y distribuyen estas plataformas.
Por el momento, el proyecto se encuentra en una fase temprana y carece de un texto definitivo. Sin embargo, el mensaje político ya es claro: Florida pretende trasladar el debate sobre la inteligencia artificial del ámbito del uso personal al de la responsabilidad corporativa.
Fuente: Infobae