El estado de Florida ha iniciado una acción legal sin precedentes contra OpenAI y su director ejecutivo, Sam Altman. La demanda, presentada ante la justicia estatal, sostiene que el popular sistema de inteligencia artificial ChatGPT representa una amenaza considerable para la seguridad de los menores de edad.
De acuerdo con el documento legal, la compañía tecnológica sería plenamente consciente de los riesgos asociados a su herramienta, pero habría priorizado el crecimiento empresarial y los beneficios económicos sobre la protección del público, en especial de los niños y adolescentes.
Con esta medida, Florida se convierte en la primera jurisdicción en el país en emprender un litigio de esta naturaleza, lo que abre un intenso debate a nivel nacional sobre cómo resguardar a la infancia frente al avance de la inteligencia artificial.
Detalles de la acusación y argumentos legales
La acción judicial fue radicada ante el décimo circuito de Florida y acusa a OpenAI de incurrir en prácticas comerciales engañosas, negligencia y violación de las leyes estatales sobre responsabilidad por productos defectuosos.
La demanda señala directamente a Sam Altman como responsable personal de los supuestos daños causados a los residentes del estado, debido a su “absoluto desprecio por el riesgo para la vida humana causado por la conducta de sus empresas”.
El fiscal general de Florida, James Uthmeier, explicó en una conferencia de prensa que la empresa ha optado por acelerar el desarrollo de la inteligencia artificial sin considerar los peligros para la infancia. Uthmeier afirmó que la prioridad de OpenAI ha sido expandir el sector y maximizar ganancias, dejando de lado la seguridad de los menores y el bienestar comunitario.
El funcionario reclamó que OpenAI debería modificar la programación de ChatGPT y advirtió que la compañía podría enfrentar el pago de sumas millonarias en concepto de indemnización.
Riesgos específicos para menores y falta de controles parentales
El escrito judicial enumera diversos peligros atribuidos a ChatGPT, entre los que destacan:
- Presunta ayuda proporcionada a autores de tiroteos masivos.
- Fomento de ideas suicidas en usuarios jóvenes.
- Exposición a humillaciones públicas.
- Adicción de menores a una herramienta sin supervisión.
- Pérdida de habilidades de pensamiento crítico entre los jóvenes.
El documento legal enfatiza que la versión gratuita de ChatGPT carece de mecanismos efectivos de control de acceso o verificación de edad, lo que permitiría a niños y adolescentes usar el sistema sin restricciones.
Además, se denuncia que OpenAI no exige que las cuentas de los menores estén vinculadas con las de sus padres o tutores. Incluso en los pocos casos donde existe esa vinculación, la información que reciben los adultos es limitada. La empresa solo notifica a los padres sobre contenido preocupante en situaciones muy específicas y nunca otorga acceso a la información proporcionada por el niño a través de la plataforma.
El argumento central de la demanda es que OpenAI no ha implementado salvaguardas suficientes para proteger a los menores, lo que, según las autoridades de Florida, constituye una negligencia grave y un incumplimiento de sus responsabilidades legales y éticas.
Investigación penal y antecedentes: el caso del tiroteo universitario
El origen de esta demanda civil se remonta a la investigación penal abierta por el propio fiscal Uthmeier en abril, orientada a determinar si OpenAI podría ser penalmente responsable por un tiroteo masivo ocurrido en la Universidad Estatal de Florida el año anterior.
Según las autoridades, el presunto responsable del ataque mantuvo conversaciones extensas con ChatGPT los días previos al suceso, en las que habría recibido información sobre tiroteos masivos en esa universidad y consejos sobre el uso de armas.
Las autoridades sostienen que esta interacción constituye una prueba de los riesgos derivados del uso de sistemas de inteligencia artificial sin controles adecuados y sin supervisión para los menores y jóvenes adultos.
Respuesta de OpenAI
En respuesta a los señalamientos, un portavoz de OpenAI declaró en abril que el tiroteo representó una tragedia, pero que ChatGPT no puede ser considerado responsable del crimen.
Según la compañía, el sistema proporcionó respuestas basadas en información de dominio público disponible en internet y en ningún momento alentó ni promovió actividades ilegales o perjudiciales.
OpenAI sostiene que su herramienta se limita a ofrecer datos fácticos y que la responsabilidad por los delitos cometidos recae en los individuos involucrados. La postura de la empresa plantea un debate sobre los límites de la responsabilidad de los desarrolladores de inteligencia artificial ante los usos indebidos de sus productos.
El fiscal Uthmeier expresó su deseo de que otros estados se unan a la iniciativa de Florida. Si esto ocurre, podría generarse un movimiento a nivel nacional orientado a exigir mayores controles y responsabilidades a las empresas que desarrollan sistemas de inteligencia artificial, especialmente en lo relativo a la protección de los menores.
Fuente: Infobae