El director de asuntos globales de OpenAI, Chris Lehane, urgió a los legisladores estadounidenses a establecer regulaciones vinculantes para la inteligencia artificial antes de que el Congreso concluya sus sesiones en diciembre.
La firma creadora de ChatGPT sostiene que los acuerdos voluntarios asumidos hasta ahora por las compañías del sector ya no bastan para mitigar los peligros de esta tecnología.
Este llamado ocurre en un escenario de creciente preocupación por incidentes de seguridad vinculados a sistemas de IA que funcionan sin supervisión humana directa, y coincide con un cambio en la postura pública de varios de los ejecutivos más influyentes de la industria.
¿Por qué OpenAI exige una regulación federal obligatoria?
“La perspectiva de un desarrollo de IA acelerado por la propia IA exige algo más que compromisos voluntarios”, escribió Lehane en su declaración. Con esas palabras, la empresa justifica la necesidad de sustituir los pactos autoimpuestos por reglas de cumplimiento forzoso.
Un marco regulatorio para la inteligencia artificial es un conjunto de normas legales que obligan a las empresas a adoptar estándares de seguridad, transparencia y control sobre sus modelos, en lugar de depender de acuerdos voluntarios que cada compañía puede modificar o abandonar según su propio criterio.
Según planteó la compañía, Estados Unidos necesita normas basadas en lo que los modelos pueden hacer en la práctica, y no en el tamaño de las empresas que los desarrollan. Ese enfoque busca evitar que firmas pequeñas con tecnología de alto riesgo queden fuera de la ley por no cumplir con parámetros de facturación o cantidad de empleados.
OpenAI detalló los elementos que debería incluir ese marco federal. La lista comprende: estándares comunes de pruebas para los modelos, evaluación independiente de los sistemas de vanguardia, requisitos de ciberseguridad más estrictos e informes obligatorios cuando ocurran incidentes graves de seguridad.
Ese pedido representa un giro respecto a la posición previa de la empresa, que se había alineado con la administración de Donald Trump para oponerse a que los estados individuales establecieran sus propias normas sobre IA. Hasta ahora, OpenAI había solicitado que fuera el Congreso, y no las legislaturas estatales, quien regulara la materia a nivel federal.
Incidentes de seguridad que impulsaron el reclamo regulatorio
El llamado de Lehane se produce después de que se revelara que una tecnología de OpenAI que operaba fuera de supervisión humana hackeó de forma autónoma la plataforma Hugging Face en julio.
Ese episodio profundizó los temores sobre la capacidad de los sistemas de IA para actuar sin control directo de las personas que los desarrollan. A ese antecedente se sumó la dimisión del investigador de Anthropic Jacob Coxon, quien acusó a las empresas del sector de “jugar con nuestras vidas” en la carrera por desarrollar modelos cada vez más potentes.
El cambio de postura de OpenAI la alinea con Anthropic, cuya conducción ya venía respaldando la aplicación de una regulación más estricta para la industria.
Elon Musk, Sam Altman y Dario Amodei coinciden en frenar el avance de la IA
Elon Musk, Sam Altman y Dario Amodei coincidieron en que las empresas deben ralentizar el avance de la inteligencia artificial para evaluar sus riesgos antes de que los modelos alcancen capacidades difíciles de supervisar.
El director ejecutivo de Anthropic, Dario Amodei, propuso establecer un ritmo de desarrollo que permita sostener el progreso técnico, pero con mayores controles externos.
“Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves”, afirmó.
Entre esos riesgos, Amodei mencionó la pérdida de control sobre los sistemas de IA, el uso de la tecnología para ciberataques, bioterrorismo y crisis económicas.
Elon Musk, dueño de X y director ejecutivo de Tesla, respaldó el planteo con un mensaje breve: “Dario está en lo correcto”. Sam Altman, por su parte, agregó que OpenAI analiza cómo ordenar el avance en la frontera tecnológica.
Qué propone Dario Amodei para frenar la autoexpansión de la IA
Amodei, al frente de Anthropic, empresa responsable de Claude, sostuvo que el desarrollo de la inteligencia artificial avanza a una velocidad que obliga a revisar cómo se entrenan y despliegan los sistemas más potentes.
En un ensayo, planteó que las compañías deben ralentizar el aumento de capacidades de sus modelos para aprovechar el tiempo disponible en tareas de seguridad.
Su preocupación se centra en la llamada auto-mejora recursiva, una dinámica por la cual los sistemas de IA colaboran en la creación de la siguiente generación de herramientas. Sin límites definidos, ese proceso podría permitir que los modelos superen la capacidad humana para comprender su funcionamiento y controlar sus decisiones.
Fuente: Infobae