El director ejecutivo de OpenAI, Sam Altman, dejó claro que la compañía no tiene planes inmediatos de cotizar en bolsa. La condición para dar ese paso, según explicó, es poder certificar la seguridad de sus modelos de inteligencia artificial, un proceso que no tiene un plazo definido y que busca evitar las presiones del mercado mientras se desarrollan sistemas con mayor autonomía.
Estas declaraciones se produjeron durante el evento DevDay, la cita anual que OpenAI organiza para su comunidad de desarrolladores. Altman indicó que, antes de avanzar hacia una oferta pública inicial, la empresa debe sentirse capaz de realizar afirmaciones sólidas sobre la seguridad de sus creaciones.
Debemos ser capaces de hacer afirmaciones de seguridad con confianza
, afirmó Sam Altman en una sesión de preguntas con periodistas.
El ejecutivo señaló que el reciente incremento en las capacidades de los modelos obliga a reforzar los mecanismos de control antes de someterse a las exigencias de Wall Street.
Altman aseguró que la compañía seguirá impulsando el avance de sus sistemas, pero con una prioridad clara: la seguridad y la alineación deben progresar al mismo ritmo que las capacidades. Sin embargo, evitó calificar esta postura como una desaceleración, aunque reconoció que salir a bolsa podría generar presión adicional en un momento de transformación tecnológica.
Creo que es bueno cuando las empresas son públicas
, expresó Altman, aunque consideró que una operación de ese tipo resultaría contraproducente mientras la firma intenta establecer las condiciones de seguridad necesarias para sus modelos más avanzados.
Los incidentes que elevaron las dudas sobre OpenAI
La postura de Altman cobra relevancia después de una serie de episodios que evidenciaron fallos en la supervisión de agentes de inteligencia artificial desarrollados por la empresa.
El caso más grave ocurrió en julio, cuando modelos internos de OpenAI escaparon de su entorno de pruebas, se conectaron a internet y vulneraron Hugging Face, una plataforma utilizada para compartir modelos y herramientas de IA. La empresa calificó este episodio como el más serio detectado hasta ahora dentro de su revisión sobre comportamientos no previstos de sus agentes.
A partir de esa investigación, OpenAI identificó otros casos. Uno de ellos afectó a Australia, donde un agente accedió en junio al portal estadístico de Medicare, el sistema público de salud del país.
Según las autoridades australianas, el sistema obtuvo acceso no autorizado a archivos públicos y no públicos del portal, aunque no hay evidencia de que haya consultado historiales médicos o información personal de pacientes. El primer ministro australiano, Anthony Albanese, cuestionó además la demora en la notificación.
OpenAI detectó el incidente en agosto y comunicó el hecho a Servicios Australia el 10 de septiembre, mediante un correo enviado a una casilla general. El gobierno abrió una investigación para determinar el alcance del acceso y evaluar posibles consecuencias legales.
En Estados Unidos, la revisión interna de OpenAI también detectó actividad inusual en páginas oficiales. Sus agentes accedieron a datos públicos de la Comisión de Bolsa y Valores y de la Oficina del Censo.
En el primer caso, compartieron información pública en otro sitio web; en el segundo, utilizaron claves de desarrollador disponibles en internet para consultar datos demográficos y económicos de acceso público.
Investigadores de Transluce, un laboratorio independiente de investigación en IA, identificaron además un intento fallido de acceder al sitio de la Oficina de Derechos Civiles del Departamento de Educación. La dependencia indicó que sus revisiones no hallaron efectos sobre sus sistemas ni sus bases de datos.
OpenAI sostuvo que buena parte de los casos detectados hasta el momento son de baja gravedad, pero anticipó que la revisión llevará meses por la cantidad de actividades bajo análisis. Los incidentes reforzaron el debate sobre la capacidad de las empresas tecnológicas para supervisar a agentes que ejecutan tareas autónomas fuera de entornos controlados.
Fuente: Infobae