Demis Hassabis, presidente de Google DeepMind, se sumó a las voces de Dario Amodei, Elon Musk y Sam Altman al advertir que el desarrollo descontrolado de la inteligencia artificial podría tener consecuencias graves. El científico británico respaldó la propuesta de Amodei de moderar el ritmo de mejora de las capacidades de los sistemas.
“Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá rápido, y debemos aprovechar sabiamente el tiempo que ganamos”, sostuvo el jefe de Anthropic.
Para Hassabis, el ensayo de Dario apunta al camino correcto a seguir. Aún quedan detalles por definir, pero la dirección es la adecuada para afrontar este momento crucial
.
Un momento decisivo para la humanidad
Hassabis afirmó que la humanidad atraviesa una etapa que puede redefinir su relación con la tecnología. Según su proyección, la Inteligencia Artificial General (IAG), un sistema con capacidades cognitivas comparables a las del cerebro humano, podría estar cerca.
“Cuando miremos atrás en las próximas décadas, creo que nos daremos cuenta de que estábamos en los albores de la singularidad”, expresó.
Riesgos que preocupan a los líderes tecnológicos
Amodei señaló que el poder de los modelos actuales y futuros plantea amenazas graves. Al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves
, afirmó.
Entre los peligros mencionó la pérdida de control sobre sistemas de IA, su uso en ciberataques, bioterrorismo y posibles trastornos económicos. Hassabis coincidió en que los avances de frontera ya abren desafíos para la ciberseguridad y pueden ampliar riesgos nucleares y biológicos.
Esto exige, según él, que gobiernos y empresas adopten decisiones antes de que los sistemas alcancen mayores niveles de autonomía.
Políticas que acompañen a la innovación
Hassabis describió una competencia comercial y geopolítica que acelera el desarrollo de modelos cada vez más capaces. Si bien esa dinámica puede impulsar beneficios científicos y económicos, advierte que la capacidad técnica puede avanzar más rápido que el conocimiento sobre sus consecuencias.
“Nadie en el mundo sabe con certeza qué sucederá a partir de ahora, e incluso los expertos discrepan”, afirmó.
Por eso, propuso políticas públicas que preserven la innovación, premien la responsabilidad de las compañías, refuercen la seguridad y promuevan la cooperación internacional.
Un organismo para controlar los modelos de IA
La propuesta de Google contempla crear en Estados Unidos un organismo de normalización para la IA, con participación pública y privada. Podría ser una entidad supervisada por el gobierno federal o una organización autorreguladora similar a la Autoridad Reguladora de la Industria Financiera (FINRA).
Ese organismo definiría parámetros para determinar qué modelos pertenecen a la categoría de frontera y coordinaría pruebas con agencias federales y laboratorios nacionales.
Las compañías que desarrollen esos sistemas deberían presentar fichas técnicas, reforzar su ciberseguridad, revisar la idoneidad del personal clave y asignar recursos a la investigación sobre seguridad.
Pruebas obligatorias antes de llegar al mercado
Hassabis propuso que los laboratorios compartan voluntariamente sus modelos con el organismo hasta 30 días antes de su lanzamiento. Después de demostrar que el protocolo funciona, el proceso podría volverse obligatorio para permitir la implementación de modelos de frontera en el mercado estadounidense.
Las evaluaciones incluirían pruebas sobre capacidades de ciberseguridad, amenazas biológicas y otras áreas de alto riesgo. Deberían identificar intentos de evadir salvaguardas o comportamientos engañosos en sistemas con agentes autónomos. El esquema prevé revisiones periódicas y la participación de auditores externos.
La iniciativa estadounidense, según Hassabis, podría servir como base para estándares internacionales compartidos. El directivo planteó que, si la situación lo exigiera, los laboratorios de frontera deberían incluso coordinar una desaceleración de sus desarrollos para reducir riesgos antes de liberar modelos más potentes.
Fuente: Infobae