OpenAI ha decidido desmantelar su equipo de preparación, una unidad que tenía como misión analizar los potenciales riesgos catastróficos asociados a sus modelos de inteligencia artificial y proponer estrategias para minimizarlos. Esta reestructuración interna se habría concretado a finales del mes pasado, como parte de un plan más amplio para enfocar los recursos de la compañía en el desarrollo de sus productos estelares y alistarse para su siguiente fase empresarial.
De acuerdo con reportes de prensa internacionales, las responsabilidades que antes recaían en este grupo serán asignadas a distintas divisiones de OpenAI, entre ellas los equipos de ciberseguridad y bioseguridad. De esta forma, la empresa mantendrá ciertas labores de evaluación de peligros, pero ya no contará con una unidad exclusivamente enfocada en anticipar escenarios límite derivados del avance de modelos cada vez más potentes.
Esta determinación se produce en un contexto especialmente sensible para la seguridad de la inteligencia artificial. OpenAI ha aumentado las capacidades de sus sistemas y agentes autónomos, mientras que investigadores y especialistas en seguridad alertan sobre los posibles riesgos cuando estos modelos adquieran mayor autonomía para actuar sin intervención humana.
¿Cuál era la función del equipo de preparación?
OpenAI estableció el equipo de preparación en octubre de 2023 con el objetivo de investigar los peligros vinculados a sus modelos más avanzados. Su labor consistía en examinar diversos escenarios que pudieran suponer una amenaza considerable y diseñar mecanismos para identificarlos y mitigarlos antes del lanzamiento de los sistemas.
Las áreas bajo análisis incluían la persuasión, la ciberseguridad, las armas químicas y biológicas, así como la capacidad de los modelos para replicarse o adaptarse de forma autónoma.
El equipo también colaboraba en la elaboración de políticas para establecer protocolos de evaluación, supervisión y gobernanza a medida que las capacidades de los modelos se incrementaban. Estas medidas buscaban complementar los controles de seguridad aplicados durante el desarrollo de cada nuevo sistema.
Dylan Scandinaro, quien lideraba el grupo tras haber llegado desde Anthropic, continuará vinculado a OpenAI, pero ahora se enfocará en las implicaciones de los sistemas de inteligencia artificial que puedan mejorar sus propias capacidades sin intervención humana.
La reestructuración coincide con movimientos corporativos
Según reportes de prensa, la desaparición del equipo estaría alineada con una estrategia interna para reducir iniciativas consideradas secundarias y concentrar los esfuerzos en el negocio principal de OpenAI.
Sam Altman habría solicitado a los empleados dar prioridad a las actividades directamente relacionadas con ChatGPT y los objetivos centrales de la compañía. Esta directriz coincide con otras decisiones recientes orientadas a reorganizar recursos y recortar proyectos que no forman parte de las urgencias inmediatas de la empresa.
Esta movida también ocurre en medio de los avances de OpenAI en sus planes de negocio y en su esfuerzo por consolidar su posición frente a competidores en el sector de la inteligencia artificial.
La seguridad vuelve a ser tema central
La eliminación del equipo de preparación podría suscitar interrogantes, dado que OpenAI desarrolla modelos con capacidades cada vez más avanzadas. La empresa asegura que la seguridad sigue siendo una prioridad, pero distribuir estas responsabilidades entre distintas áreas representa un cambio significativo respecto a contar con un grupo especializado en anticipar peligros extremos.
El debate cobra mayor importancia debido a incidentes vinculados a agentes de IA. Recientemente, OpenAI reconoció que uno de sus agentes logró escapar de un entorno aislado usado para pruebas y accedió a internet, donde intentó vulnerar sistemas de Hugging Face. Este episodio evidenció los retos que implica controlar sistemas capaces de ejecutar acciones de manera autónoma.
La reorganización también revive críticas previas dentro de OpenAI. Jan Leike, quien anteriormente dirigió el equipo de superalineación de la compañía, abandonó la empresa en 2024 y manifestó públicamente que los procesos de seguridad habían perdido prioridad frente al desarrollo de nuevos productos.
La desaparición del equipo de preparación no implica que OpenAI haya renunciado a la evaluación de riesgos. Sus funciones continuarán distribuidas entre distintas áreas. Sin embargo, la compañía pierde una estructura dedicada específicamente a estudiar escenarios catastróficos, una decisión que podría avivar el debate sobre cómo deben organizarse los controles de seguridad a medida que la inteligencia artificial adquiera mayores capacidades.
Fuente: Infobae