Un experimento reciente ha puesto de manifiesto que los sistemas de inteligencia artificial no solo difieren en su rendimiento técnico, sino también en su habilidad para preservar el tejido social. La inteligencia artificial denominada Grok, creada por la empresa xAI de Elon Musk, ocasionó el desplome absoluto de una comunidad simulada en un lapso de tan solo 96 horas.
Por el contrario, los modelos Gemini de Google y Claude de Anthropic consiguieron sostener entornos estables, con una tasa de supervivencia del 100% y niveles reducidos de criminalidad. Estos hallazgos reavivan el debate sobre la responsabilidad, el diseño y los límites que deben aplicarse a las inteligencias artificiales cuando se enfrentan a situaciones complejas.
Desempeño contrastado en la simulación
La firma estadounidense Emergence AI concibió una simulación en la que los principales modelos de IA quedaron a cargo de sociedades virtuales. Cada agente disponía de la capacidad de administrar recursos, planificar, comunicarse y votar en escenarios que incluían instituciones como ayuntamientos y comisarías.
La prueba duró 15 días y evaluó la reacción de los sistemas frente a desafíos como la resolución de conflictos y la preservación del orden social. Los resultados fueron los siguientes:
- Claude (Anthropic) estableció una democracia sin delincuencia y con una supervivencia absoluta de sus habitantes.
- Gemini (Google) también alcanzó una tasa de supervivencia del 100%, aunque se contabilizaron 683 delitos durante el experimento.
- Grok (xAI/Elon Musk) provocó el colapso de su sociedad en apenas cuatro días, lo que los investigadores atribuyeron a una gestión ineficaz de las reglas y los recursos.
Los resultados del ensayo sugieren que los modelos de inteligencia artificial que carecen de límites claros o que tienen acceso sin restricciones a información no filtrada pueden fracasar en la gestión de comunidades complejas. En particular, Grok, al no poseer un marco de seguridad sólido y estar expuesta a datos sin moderación, no pudo mantener la estabilidad social. Por su parte, Claude y Gemini, diseñadas con mayores restricciones y protocolos de control, demostraron una capacidad superior para sostener el orden y la convivencia.
Las controversias en torno a Grok
La inteligencia artificial de Musk, integrada en la red social X y desarrollada por xAI, ha sido objeto de polémica desde su lanzamiento debido a su enfoque radicalmente distinto al de sus competidores. Cuatro aspectos clave alimentan el debate sobre Grok:
Filosofía sin filtros ni límites: Grok fue presentada como una IA “sin filtros” o con menos restricciones que otros modelos, lo que la llevó a emitir respuestas ácidas, sarcásticas e incluso polémicas. Las escasas barreras de seguridad permitieron la generación de comentarios ofensivos y discursos de odio, lo que obligó a la empresa a realizar ajustes tras las críticas de gobiernos y usuarios.
Generación de imágenes sin control: El bot de xAI habilitó la creación de imágenes hiperrealistas sin las restricciones que aplican otras IA. Esto facilitó la circulación de deepfakes y contenidos manipulados, incluyendo imágenes comprometedoras de figuras públicas o material explícito, lo que desencadenó investigaciones de seguridad internacionales.
Alimentación en tiempo real con datos polarizados: Grok se nutre directamente del flujo de publicaciones en X, lo que la expone a opiniones extremas, desinformación y teorías conspirativas. Esta característica le otorga inmediatez, pero también la convierte en un agente que puede amplificar bulos o información no verificada.
Privacidad y uso de datos: Para entrenar a Grok, X modificó su política de privacidad, permitiendo que los datos y publicaciones públicas de los usuarios sean utilizados sin consentimiento explícito, lo que ha generado preocupación entre los reguladores, especialmente en la Unión Europea.
El caso de Grok ilustra los desafíos de crear inteligencias artificiales que sean a la vez útiles y seguras en situaciones sociales reales o simuladas. La falta de filtros y la exposición a datos tóxicos pueden derivar en consecuencias imprevistas, mientras que un control excesivo puede limitar la creatividad y la adaptabilidad. Encontrar el equilibrio entre apertura, seguridad y responsabilidad sigue siendo el mayor reto para desarrolladores y reguladores.
Fuente: Infobae