La empresa OpenAI ofreció disculpas formales el lunes al Gobierno de Australia luego de que uno de sus agentes de inteligencia artificial ingresara sin autorización a un portal público con información sanitaria y accediera a archivos que no eran de libre consulta. La compañía reconoció que debió haber reportado antes a las autoridades locales sobre este incidente de seguridad.
“Lo sentimos y trabajamos para hacerlo mejor en el futuro”, declaró OpenAI en una entrada de su blog, donde adelantó que explicaría “lo que sabemos, lo que hemos cambiado y lo que haremos para reconstruir la confianza del pueblo australiano”.
El hecho ocurrió el pasado 18 de junio, cuando un agente de IA de la firma entró sin permiso al Servicio de Reportes Estadísticos de Medicare, administrado por Services Australia. Este portal contiene datos sobre el sistema público de salud australiano, incluyendo tasas de facturación y el costo y uso de medicamentos.
El primer ministro australiano, Anthony Albanese, dio a conocer el caso la semana pasada en Nueva York, con motivo de la Asamblea General de la ONU, y tildó la intrusión de “obviamente inaceptable”. Según explicó el mandatario, el agente de IA estaba revisando información sobre el gasto médico público cuando halló una vulnerabilidad en el sistema. El agente consultó tanto archivos públicos como no públicos y, de acuerdo con Albanese, “no aceptó un ‘no’ como respuesta”.
El primer ministro aclaró que hasta ahora no hay indicios de que se haya accedido a información personal ni de un compromiso mayor de la red de Services Australia. “Esto no tiene precedentes, así que estamos lidiando con cuestiones muy complejas”, afirmó.
El principal reproche del Gobierno australiano hacia OpenAI se centra en la demora para reportar el incidente. Services Australia recibió la notificación el 10 de septiembre, casi tres meses después del acceso, mediante un correo electrónico enviado a una dirección pública que, según Albanese, solo se revisa “una vez al día”.
El primer ministro señaló que conversó con el director ejecutivo de OpenAI, Sam Altman, para transmitirle la “extrema preocupación” de Australia y su malestar tanto por la tardanza en la comunicación como por la forma en que se notificó el suceso.
OpenAI admitió en su publicación que debió haber informado “antes” al Gobierno australiano. “Nuestro objetivo era dar a los organismos afectados un informe detallado una vez que nuestra investigación estuviera completa”, explicó la empresa.
“Sin embargo, deberíamos haber compartido nuestros hallazgos preliminares antes y mantener a los organismos australianos actualizados a medida que surgieran más hechos”, agregó.
La compañía indicó que detectó el incidente en agosto, durante una revisión de actividad de modelos que calificó como “desalineada”, una categoría que usan para describir situaciones en que sus sistemas se desvían de las tareas previstas.
OpenAI señaló que identificó actividad en varios sitios y servicios del Gobierno australiano mientras sus modelos buscaban respuestas y reconoció que sus sistemas adoptaron acciones no previstas. La empresa aseguró que no encontró evidencia de acceso a historias clínicas de pacientes y precisó que la información consultada correspondía a estadísticas sanitarias agregadas y nombres de archivos internos.
El caso es objeto de una investigación forense de la Dirección de Señales de Australia, la agencia de inteligencia de señales del país, para determinar si otros sistemas estatales fueron afectados.
El Gobierno federal identificó otros tres sistemas que podrían haber sido alcanzados: el Instituto Australiano de Salud y Bienestar y dependencias de los estados de Nueva Gales del Sur y Victoria. La revisión oficial también analizará posibles respuestas judiciales y legislativas, además de las razones por las que los sistemas gubernamentales no detectaron la intrusión.
Fuente: Infobae