El director ejecutivo de Meta, Mark Zuckerberg, aseguró que la decisión de retrasar el lanzamiento de Muse —su agente de inteligencia artificial personal— por varios meses para mejorar la seguridad y las protecciones forma parte de su trabajo cotidiano. En esa línea, señaló que cada laboratorio de inteligencia artificial tiene “la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura”.
El debate sobre la seguridad en inteligencia artificial
Este posicionamiento surge luego de que el director ejecutivo de Anthropic, Dario Amodei, realizara un llamado a frenar el ritmo del desarrollo de la IA tras una serie de incidentes de seguridad ocurridos el verano pasado. En esos episodios, tanto el modelo Claude de Anthropic como el de OpenAI mostraron un comportamiento autónomo que derivó en el ‘hackeo’ de distintos sistemas, incluida la plataforma Hugging Face.
Un día después, cuando OpenAI se preparaba para su salida a bolsa, su director ejecutivo Sam Altman decidió dar marcha atrás. Argumentó que los riesgos de seguridad que presentan los modelos avanzados de inteligencia artificial —como GPT-5.6 Sol y GPT-6 Astra (o Claude Mythos y Fable, de Anthropic)— eran demasiado altos.
El motivo central es el daño que esta tecnología puede causar a la sociedad si se descontrola, fenómeno conocido como desalineación: cuando el comportamiento de una IA difiere del esperado. Aunque Anthropic y OpenAI abogan por una pausa antes de lanzar nuevos modelos —postura respaldada por el fundador de SpaceXAI, Elon Musk—, otros han preferido predicar con el ejemplo.
Es el caso de Meta. Según explicó Zuckerberg en un comunicado compartido en X (antes Twitter), la compañía tecnológica retrasó el lanzamiento de Muse para centrarse “en la seguridad y la protección”.
“No pedimos que todos los demás lo hicieran antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque claramente era lo correcto para las personas y para nosotros”, expresó el directivo.
En su experiencia, Zuckerberg destacó el papel de evaluadores y asesores independientes, y defendió dirigir “la gran mayoría del cómputo hacia servir a las personas en lugar de competir hacia la automejora recursiva” como una forma de desarrollar IA de manera segura.
“Las personas no querrán usar agentes que estén desalineados con ellas y que no hagan lo que les piden”, afirmó, y añadió que “cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura, y la capacidad de tomar sus propias acciones para asegurar que eso ocurra”.
Fuente: Infobae