Un grupo de más de mil trabajadores de las compañías de inteligencia artificial OpenAI, Anthropic y Google ha elevado una petición al Gobierno de Estados Unidos. Solicitan que se respalden herramientas y medidas para «marcar el ritmo de forma deliberada» y evitar que el progreso tecnológico se acelere hasta volverse incontrolable.
Empleados de las firmas líderes en modelos de IA de frontera respaldan una carta abierta donde instan a disminuir la velocidad de desarrollo. Argumentan que las capacidades de la IA llegarán a un nivel en el que ya no se podrá «comprender ni controlar los sistemas resultantes».
En el manifiesto, los firmantes reconocen los posibles beneficios de la IA, pero ahora los presentan en condicional: «podría contribuir a crear un futuro mucho mejor». Sin embargo, advierten que «este resultado no está garantizado».
Ante la inminente automatización de la investigación y el riesgo de perder el control, los 1.178 firmantes (hasta el momento de redactar la carta) pidieron al gobierno estadounidense que intervenga para desacelerar el trabajo en inteligencia artificial.
Defienden la necesidad de «regular de forma deliberada el progreso en este campo». Además de los beneficios prometidos para la industria, el gobierno y la sociedad, insisten en que es crucial abordar los riesgos emergentes derivados de la IA.
Para «ganar tiempo» y poder investigar estos riesgos, proponen «desarrollar medidas de seguridad y fortalecer la supervisión». Reconocen que es una tarea colectiva y piden al gobierno que «apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para marcar el ritmo de forma deliberada del desarrollo de la IA automatizada».
El documento, titulado ‘Pacing the Frontier’, cuenta con el respaldo de figuras como Jared Kaplan (cofundador y director científico de Anthropic), Dario Amodei (CEO de Anthropic), Mark Chen (director de Investigación de OpenAI) y Anca Dragan (vicepresidenta de Seguridad y Alineación de la IA en Google), entre otros.
El manifiesto no incluye la firma de Sam Altman, director ejecutivo de OpenAI. Altman se refirió recientemente al tema de la seguridad de la IA en el podcast ‘Invest Like the Best’, conducido por Patrick O’Shaughnessy.
En esa entrevista, Altman reconoció que «quizás tengamos que moderar el ritmo de desarrollo de la IA para dar tiempo suficiente a la sociedad para que se adapte a algunos de estos nuevos niveles de capacidad». No obstante, advirtió que debe hacerse sin que «parezca una captura regulatoria para todos y que tampoco parezca una colusión entre los laboratorios de vanguardia».
Altman concluyó: «Me aterra un mundo donde los temores reales sobre la IA se utilicen para decir: ‘Solo este pequeño grupo de personas puede tenerla porque es demasiado peligrosa, y solo ellos la entienden, pero no se preocupen, tomarán las decisiones correctas para todos nosotros’. No creo en eso».
Fuente: Infobae