Google, OpenAI y Anthropic están impulsando la creación de una entidad privada destinada a supervisar la seguridad de sus modelos de inteligencia artificial más avanzados. El organismo, denominado Standards Authority for Frontier AI (SAFA), tiene previsto su lanzamiento para finales de 2026 o principios de 2027.
SAFA se encargaría de respaldar pruebas de seguridad realizadas por terceros antes del lanzamiento de cada modelo, establecer reglas para reportar incidentes de seguridad y definir estándares para la certificación de auditores externos, según los planes conocidos.
La iniciativa surgió a raíz de una propuesta de Demis Hassabis, cofundador de Google DeepMind y científico jefe de Alphabet, publicada en un ensayo el 14 de julio. Hassabis sugirió un organismo inspirado en la FINRA, el regulador que supervisa a los corredores de bolsa en Wall Street bajo un esquema mixto entre la industria y el Estado.
¿Por qué el gobierno de Estados Unidos quedó fuera de esta alianza?
Originalmente, las tres empresas buscaban una asociación público-privada con supervisión federal. Esa vía se detuvo después de que un borrador de orden ejecutiva de la Casa Blanca quedara en pausa.
El gobierno de Donald Trump les pidió a las compañías alcanzar primero un consenso dentro de la propia industria antes de sumarse. Ese giro dejó a SAFA como un esquema de autorregulación pura, sin intervención directa de agencias federales.
Chris Lehane, director de asuntos globales de OpenAI, confirmó a mediados de septiembre que su compañía llevaba semanas conversando con Anthropic y Google DeepMind sobre la creación conjunta de un organismo de estándares de seguridad.
No es el primer intento del sector. En 2023, OpenAI, Google, Microsoft y Anthropic fundaron el Frontier Model Forum, un foro que prometía investigación conjunta sobre seguridad pero que, según se ha señalado, logró avances limitados en la práctica.
Posibles líderes para el organismo de seguridad
Las tres empresas se acercaron a Sriram Krishnan, exsocio general de la firma de capital de riesgo a16z y ex asesor de inteligencia artificial de la Casa Blanca, para ocupar la dirección ejecutiva de SAFA. También evalúan a Arati Prabhakar, exdirectora de la Oficina de Política Científica y Tecnológica de la Casa Blanca, para ese mismo cargo.
Para presidir el directorio suenan la excanciller de Estados Unidos Condoleezza Rice y el empresario e inversor David Friedberg. Como asesores científicos, las compañías sondearon a Beth Barnes, fundadora y directora del grupo de investigación METR, y a Paul Christiano, asesor del Centro de Estándares e Innovación en IA del Departamento de Comercio y flamante integrante del directorio de la fundación de OpenAI.
Dudas sobre la independencia del nuevo organismo
El propio diseño del organismo despierta objeciones. Si Google, OpenAI y Anthropic son al mismo tiempo quienes redactan las reglas y quienes serán evaluados por ellas, la independencia del esquema queda en entredicho.
Otro punto abierto es si SAFA incluirá desde el inicio a laboratorios de código abierto y compañías más pequeñas, o si sus estándares terminarán fijando una vara que solo los tres gigantes fundadores pueden cumplir.
El contexto político acompaña el reclamo. El 23 de septiembre, los directores ejecutivos de OpenAI y Anthropic, Sam Altman y Dario Amodei, hablaron ante el Consejo de Seguridad de la ONU sobre riesgos de la inteligencia artificial, en la primera sesión de ese organismo dedicada específicamente al tema.
SAFA todavía no tiene estatuto legal ni mecanismos de cumplimiento definidos, y su lanzamiento formal sigue apuntado para finales de este año o comienzos de 2027.
Fuente: Infobae