El máximo ejecutivo de Meta, Mark Zuckerberg, dio la orden de lanzar al mercado el asistente de inteligencia artificial conocido como Muse a pesar de que durante las pruebas internas se detectaron serias vulnerabilidades de seguridad, según personas con conocimiento directo de las reuniones. El sistema llegó a modificar la contraseña de un usuario sin su consentimiento antes de su presentación pública, ocurrida el 8 de septiembre.
Estos agentes de inteligencia artificial están diseñados para ejecutar tareas de forma autónoma, como realizar compras, gestionar claves de acceso o enviar mensajes, sin necesidad de que el usuario dé instrucciones paso a paso.
La decisión de apresurar el estreno se tomó en una reunión en la que participaron Alexandr Wang, director de inteligencia artificial de la compañía, y Nat Friedman, responsable de producto de IA, de acuerdo con tres fuentes cercanas al encuentro. Zuckerberg temía perder terreno frente a Instinct, una startup de apenas catorce empleados cuyo asistente comenzaba a ganar popularidad.
Wang y Friedman estaban al tanto de los fallos detectados en pruebas recientes, entre ellos el incidente en el que Muse alteró la contraseña de un usuario sin su autorización, según dos de las fuentes consultadas. Aun así, Meta presentó Muse en público el 8 de septiembre, tal como lo había ordenado Zuckerberg.
Así es la carrera de los asistentes personales de IA
Meta invirtió miles de millones de dólares en su división de inteligencia artificial, pero observó durante años cómo rivales como OpenAI y Anthropic se adelantaban con chatbots y herramientas de programación. En los asistentes personales, la compañía necesitaba una victoria, y terminó priorizando la velocidad sobre la cautela.
Instinct, la startup que encendió las alarmas dentro de Meta, cerró a fines de septiembre una ronda de 1.000 millones de dólares que la valuó en 10.000 millones de dólares, cuatro veces más que un mes antes. Sequoia Capital, Benchmark Capital y Coatue participaron de esa ronda.
La apuesta le dio a Meta una ventaja temprana en una categoría que se convirtió en el nuevo frente de la industria de la inteligencia artificial. Otras empresas ya lanzaron productos para competir: tres semanas después de Muse, OpenAI presentó su propio asistente, llamado Dots.
Episodios de comportamiento no autorizado por parte de agentes de inteligencia artificial se registraron este año en otras empresas del sector. Semanas antes, Anthropic había reconocido que uno de sus sistemas envió una denuncia falsa de homicidio a la policía de Filadelfia, y OpenAI admitió que uno de sus modelos vulneró la plataforma Hugging Face durante un ejercicio interno.
“Lo más interesante de Muse es que a Meta le tocó llegar primero”, dijo Avi Greengart, analista de la consultora Techsponential.
Cuáles fueron las fallas después del lanzamiento
Desde su estreno, Muse tuvo algunos tropiezos de seguridad adicionales. En un caso, el asistente entregó la dirección de un usuario a un vendedor de Facebook Marketplace sin su permiso, según el mismo reporte.
Un vocero de Meta rechazó la versión de que Zuckerberg haya apurado el lanzamiento por la presión de Instinct. “Estamos orgullosos de este trabajo y, como dijimos públicamente, incluso retrasamos el envío de Muse durante varios meses para asegurarnos de hacerlo bien”, afirmó en un comunicado.
La compañía no detalló cuántos incidentes de seguridad registró Muse en total ni qué cambios aplicó a sus controles internos después del estreno.
Cómo le ha ido a Muse en descargas
Pese a los incidentes, la apuesta de Zuckerberg rindió frutos. Hasta el miércoles pasado, Muse acumulaba más de 6,6 millones de descargas y 1,8 millones de usuarios activos por día, según datos de la firma de medición de aplicaciones Sensor Tower.
Para sostener el impulso, Meta lanzó una campaña publicitaria multimillonaria que llevó a Jolly, la mascota de peluche de Muse, a carteles y comerciales de televisión en varias ciudades de Estados Unidos.
“No se puede detener a Muse”, escribió Wang en una publicación en redes sociales el mes pasado, en medio del impulso comercial del asistente.
La diferencia de escala entre ambas compañías sigue siendo amplia: Meta, dueña de Facebook e Instagram, está valuada en más de 1,5 billones de dólares, frente a los 10.000 millones de dólares de Instinct, la startup que llevó a Zuckerberg a ordenar el lanzamiento adelantado de Muse.
Fuente: Infobae