OpenAI ha puesto en marcha una nueva funcionalidad de seguridad denominada Modo de Bloqueo (Lockdown Mode), ya disponible en España, que restringe el acceso a la web y a servicios externos con el propósito de disminuir el riesgo de ataques de inyección de ‘prompts’.
El Modo de Bloqueo se presenta como una alternativa de protección que limita las herramientas y capacidades de los productos de OpenAI que pueden conectarse con servicios externos o navegar por internet.
La meta principal es reducir la exfiltración de datos provocada por ataques de inyección de ‘prompts’, una técnica mediante la cual se manipulan las instrucciones de texto para engañar a la inteligencia artificial y forzarla a ignorar sus reglas originales. Para lograrlo, se limitan las solicitudes de red salientes, bloqueando o desactivando ciertas funciones útiles de ChatGPT.
Desde el sitio web oficial de OpenAI, la compañía aclara que este nuevo modo de bloqueo no está diseñado para todos los usuarios, sino especialmente para organizaciones o personas que manejan datos sensibles y requieren una protección adicional para evitar que esa información termine en manos de atacantes.
El funcionamiento de este modo implica la aplicación de varias capas de protección a nivel de modelo, producto y sistema. Entre ellas se incluyen:
- Aislamiento de procesos
- Protecciones contra la exfiltración de datos basada en URL
- Supervisión y aplicación de políticas
- Controles empresariales como acceso basado en roles y registros de auditoría
Los creadores de ChatGPT advierten que el nuevo modo de protección no impide que las inyecciones de ‘prompts’ aparezcan en el contenido que procesa ChatGPT. Por ejemplo, podrían manifestarse en el contenido en caché de una web o en un archivo subido por el usuario.
En otras palabras, no se trata de un escudo infalible que elimine todos los ataques, sino que deshabilita aquellas acciones o funciones que podrían ser explotadas para engañar a la IA mediante una inyección de ‘prompts’.
OpenAI ha señalado que, cuando el Modo de Bloqueo está activo, se desactivan las siguientes funcionalidades:
- Navegación web en tiempo real
- Soporte para imágenes
- Función de investigación profunda
- Modo de agente
- Canvas
- Descarga de archivos
Sin embargo, aclara que no interfiere con la memoria, la subida de archivos, la capacidad de compartir una conversación ni el uso de esas conversaciones para mejorar los modelos.
Esta actualización de ChatGPT llega a las cuentas personales de todos los usuarios, incluyendo la versión gratuita, Go, Plus y Pro, así como las cuentas de ChatGPT Business.
Forma parte de un despliegue global que se está realizando estos días. Los usuarios pueden acceder a esta función desde los ajustes de la aplicación, donde encontrarán el Modo de Bloqueo en la sección de seguridad.
Fuente: Infobae