OpenAI ha creado el AGMAI (Advisory Group on Mathematics and Artificial Intelligence), un panel autónomo compuesto por nueve matemáticos de primer nivel, provenientes de instituciones como Stanford, Harvard, Oxford y Cambridge. Su misión es asesorar en la revisión y comunicación de nuevos resultados matemáticos obtenidos con inteligencia artificial, después de la controversia generada por el anuncio de la empresa sobre la resolución de un problema del Milenio.
El laboratorio de inteligencia artificial detalló que la creación de este grupo se debe al acelerado progreso de un nuevo modelo interno, cuyo entrenamiento empezó el 28 de agosto. Según la compañía, este modelo ha resuelto más de 100 problemas matemáticos abiertos durante décadas, entre ellos el problema del Premio del Milenio de las ecuaciones de Navier-Stokes. Este ritmo de avance ha sorprendido incluso a los matemáticos de la propia empresa.
En su anuncio, OpenAI también menciona la carta abierta «A Severe Misalignment of AI in Mathematics», firmada por 27 ganadores de la Medalla Fields y publicada el 11 de septiembre. En ella, los matemáticos expresan su preocupación de que las compañías de IA utilicen la resolución de problemas abiertos como una métrica para medir sus modelos.
La carta llegó pocos días después de que OpenAI anunciara la solución al problema del Milenio de Navier-Stokes, lo que provocó polémica cuando el matemático Tristan Buckmaster, de la Universidad de Nueva York, acusó a la empresa de haber partido de su trabajo junto a Levent Alpöge, investigador de Anthropic, sin reconocerles el mérito. OpenAI ha negado estas acusaciones.
El laboratorio reconoce en su comunicado que «sus críticas ponen de manifiesto la necesidad de que las empresas de IA interactúen de forma reflexiva con la comunidad matemática». Por ello, el grupo operará de manera independiente y tendrá libertad para ofrecer consejos no solicitados, opinar sobre el impacto de OpenAI en las matemáticas y hacer públicas sus recomendaciones. Los miembros no recibirán remuneración de OpenAI, aunque el grupo no asesorará sobre el ritmo de los avances internos de la compañía.
Entre los integrantes del AGMAI destacan figuras como Edward Witten, referente de la teoría de cuerdas y ganador de la Medalla Fields en 1990; Timothy Gowers, quien obtuvo la Medalla Fields en 1998 por sus contribuciones al análisis funcional y la combinatoria; y Martin Hairer, ganador de la Medalla Fields en 2014 por sus avances en ecuaciones diferenciales parciales estocásticas y uno de los firmantes de la carta abierta.
Sin embargo, surgen interrogantes sobre si OpenAI realmente seguirá los consejos del grupo o si este será utilizado como un escudo de relaciones públicas. El propio Hairer advierte en el blog Proofs and Prompts:
«Seríamos muy ingenuos si creyéramos que los laboratorios de IA no van a intentar manipular cualquier cosa que digamos para adaptar la narrativa a su maquinaria de relaciones públicas, la cual eclipsa por completo cualquier cosa que nosotros pudiéramos idear.»
Estas palabras reflejan el escepticismo dentro de la comunidad matemática sobre las verdaderas intenciones de la compañía, a pesar de la independencia declarada del grupo asesor.
Fuente: Infobae