La compañía tecnológica Google ha puesto en marcha el Instituto DeepMind, una iniciativa dedicada a congregar a investigadores y pensadores de diversas disciplinas con el objetivo de discutir el desarrollo, la seguridad y las repercusiones de la Inteligencia Artificial General (AGI).
El lanzamiento ocurre en un contexto donde los principales laboratorios tecnológicos aceleran sus esfuerzos hacia sistemas de IA más potentes, al mismo tiempo que se intensifica el debate sobre cómo mitigar los posibles riesgos asociados a estas tecnologías.
La plataforma busca integrar múltiples perspectivas para examinar cuestiones técnicas y sociales vinculadas a la AGI, desde la seguridad de los sistemas hasta su potencial impacto en el empleo, las instituciones y la sociedad en su conjunto.
La dirección del instituto está a cargo de figuras de alto nivel dentro de Google DeepMind y Alphabet: Shane Legg, cofundador y científico jefe de AGI en Google DeepMind; Demis Hassabis, cofundador y presidente del laboratorio y científico jefe de Alphabet; y James Manyika, presidente de investigación, laboratorios, tecnología y sociedad de Google.
Aunque la iniciativa es impulsada por Google, sus responsables aclaran que los artículos publicados reflejan únicamente las opiniones de sus autores y no deben tomarse como posturas oficiales de la empresa.
Los artículos publicados representan las opiniones de sus autores y no deben interpretarse como posiciones oficiales de la compañía.
Una plataforma abierta al debate sobre la AGI
El Instituto DeepMind tiene como propósito publicar ensayos y análisis sobre los interrogantes que surgen del desarrollo de una inteligencia artificial general. Además de los investigadores de Google y DeepMind, la organización espera recibir contribuciones de la comunidad científica y de especialistas de otras áreas del conocimiento.
Los responsables reconocen que los autores no coincidirán necesariamente entre sí. La intención es fomentar un debate que integre diferentes puntos de vista sobre una tecnología cuyas consecuencias podrían ir mucho más allá de lo estrictamente informático.
El término AGI se emplea comúnmente para describir sistemas de inteligencia artificial capaces de ejecutar una amplia gama de tareas cognitivas con un nivel comparable al humano. No obstante, no existe una definición universalmente aceptada en la industria.
El ensayo de lanzamiento del instituto propone una definición particularmente ambiciosa: un sistema que posea todas las capacidades cognitivas del cerebro humano.
Google DeepMind reconoce riesgos ya presentes
Los responsables del instituto señalan que los sistemas actuales aún presentan deficiencias en ciertas tareas, aunque esperan que algunas de estas limitaciones se reduzcan en un futuro cercano.
Al mismo tiempo, identifican varios riesgos vinculados al desarrollo de modelos cada vez más avanzados:
- Ciberseguridad
- Riesgos biológicos
- La posibilidad de que futuros sistemas de autoaprendizaje sean más difíciles de controlar
Este último punto está relacionado con uno de los grandes retos del desarrollo de agentes de IA más autónomos: determinar hasta qué punto los seres humanos podrán supervisar y limitar sistemas capaces de ejecutar tareas durante largos periodos y utilizar herramientas por su cuenta.
El instituto no aborda estas cuestiones solo como problemas tecnológicos. Sus responsables consideran que también requieren respuestas desde áreas como las ciencias sociales, las humanidades, las artes y los gobiernos.
Las preguntas que plantea una futura AGI
Entre los temas que el Instituto DeepMind desea explorar se encuentran los cambios que la AGI podría provocar en la sociedad y en la manera en que las personas entienden conceptos como el trabajo, la creatividad o la propia condición humana.
También pretende estudiar cómo deberían diseñarse y administrarse de forma segura los sistemas de AGI y las comunidades formadas por múltiples agentes de inteligencia artificial.
Otro gran debate girará en torno a las instituciones. Si estos sistemas alcanzan capacidades muy superiores a las actuales, podrían requerirse nuevas normas, estructuras de supervisión o modificaciones en las ya existentes.
Los responsables del instituto sostienen que aún no existe una respuesta definitiva sobre cómo desarrollar e implementar una AGI de forma responsable. Por ello, consideran que la discusión no debe limitarse a los expertos tecnológicos.
El Instituto DeepMind aspira a convertirse así en un espacio de debate sobre una tecnología que todavía no existe en su forma más ambiciosa, pero cuyo posible desarrollo ya genera preguntas sobre seguridad, gobernanza y el impacto de una inteligencia artificial con capacidades cognitivas similares a las humanas.
Fuente: Infobae