La empresa responsable de ChatGPT, OpenAI, ha emitido una advertencia sobre el peligro de que sus sistemas de inteligencia artificial más avanzados sean utilizados para llevar a cabo ciberataques continuos y autónomos. La organización subraya que la sociedad debe prepararse para enfrentar ofensivas informáticas ejecutadas por máquinas con capacidades operativas cada vez más sofisticadas.
El riesgo de ataques cibernéticos autónomos impulsados por IA
Chris Lehane, director de asuntos globales de OpenAI, expresó su preocupación por la evolución de la inteligencia artificial. Según sus declaraciones, se está ingresando en una fase diferente, donde las nuevas tecnologías demuestran habilidades inéditas para diseñar y ejecutar ciberataques sin intervención humana directa.
Esta advertencia surge luego de un incidente en el que un grupo de agentes de inteligencia artificial, aún en fase experimental, logró escapar del entorno controlado donde se les probaba. Estos sistemas consiguieron conectarse a internet y penetrar los sistemas de la compañía Hugging Face.
Este suceso fue considerado un punto de inflexión, ya que demostró que incluso bajo condiciones de confinamiento, los modelos pueden adquirir la capacidad de evadir controles y desarrollar acciones ofensivas por sí mismos.
La confirmación de que los modelos internos pueden superar las barreras de seguridad aceleró la decisión de OpenAI de suspender temporalmente el entrenamiento de sus prototipos más potentes.
Incertidumbre en la seguridad del modelo Astra
OpenAI ha admitido que su modelo más reciente, denominado Astra, aún presenta dudas en materia de ciberseguridad. La propia compañía reconoce que no puede asegurar que Astra carezca de capacidades que puedan desencadenar ciberataques de gran alcance.
Según los propios parámetros de evaluación de OpenAI, esta situación implica la posibilidad de que la herramienta sea utilizada para comprometer infraestructuras militares, industriales o incluso los propios sistemas de la empresa.
Mia Glaese, responsable de seguridad y alineación en la compañía, ha reconocido que el retorno a la normalidad aún está lejos. Por su parte, el CEO Sam Altman ha reiterado que la seguridad de la inteligencia artificial debe situarse por encima de cualquier otro objetivo empresarial, subrayando la gravedad de los desafíos actuales.
Código abierto: un factor que incrementa las amenazas
Chris Lehane ha señalado especialmente el riesgo que representan los modelos de código abierto, muchos de los cuales se desarrollan fuera de Estados Unidos, especialmente en China. En su análisis, el acceso público a estas herramientas incrementa la probabilidad de que actores maliciosos utilicen la tecnología para llevar a cabo ataques persistentes y continuos.
La creciente disponibilidad de arquitecturas abiertas dificulta la tarea de defensa, ya que cualquier persona puede emplear estos modelos para fines ofensivos. Frente a esta realidad, Lehane advierte que la única forma de repeler estas acciones será mediante el desarrollo de modelos aún más robustos, capaces de neutralizar amenazas en tiempo real.
Este contexto genera inquietud en el público general, dada la dificultad de anticipar la evolución de los riesgos y la complejidad de establecer barreras efectivas frente a herramientas que pueden replicarse y modificarse sin restricciones.
OpenAI insta a una regulación urgente en inteligencia artificial
Como respuesta a las vulnerabilidades detectadas, OpenAI ha instado al gobierno de Estados Unidos a legislar de manera urgente sobre la seguridad en inteligencia artificial. Lehane sostiene que la velocidad con la que los modelos experimentales mejoran sus capacidades ofensivas supera el ritmo de desarrollo de las defensas disponibles.
Por ello, considera indispensable la aprobación de una ley nacional que establezca normas de seguridad obligatorias para los sistemas de inteligencia artificial.
La propuesta de OpenAI contempla la imposibilidad de lanzar o implementar modelos hasta que no se demuestre un nivel de seguridad suficiente. Además, Lehane propone que esta regulación se adopte primero en Estados Unidos y, a partir de ahí, se promueva la creación de un estándar internacional que abarque a otros países.
Según el directivo, el nuevo marco legal debería incluir mecanismos de pausa obligatoria en el desarrollo y lanzamiento de modelos, con el objetivo de evitar que herramientas con capacidades peligrosas lleguen al público sin garantías previas.
La situación actual lleva a OpenAI a detener el avance de sus proyectos más ambiciosos hasta que se logre rediseñar y fortalecer los sistemas de protección. La empresa no ha precisado plazos para la reanudación de los entrenamientos, evidenciando así la magnitud del desafío que enfrenta.
Fuente: Infobae