El rápido progreso de la inteligencia artificial ha desatado conversaciones a nivel mundial acerca de sus peligros y beneficios, sin embargo, no es frecuente que los propios creadores de estas tecnologías participen en debates sobre los conflictos morales que surgen con cada innovación.
En una conversación con Oprah Winfrey en su podcast, los hermanos Dario y Daniela Amodei, creadores de Anthropic, abordaron varios de los retos más significativos que conlleva el desarrollo de la IA, como el efecto en el trabajo, la posible adicción a estas herramientas y las consecuencias para la seguridad mundial.
Los líderes de Anthropic compartieron las dificultades que viven al intentar balancear el enorme poder de la tecnología con la urgencia de actuar con responsabilidad, claridad y normas adecuadas.
Riesgos y dilemas éticos en el avance de la IA
El diálogo comenzó con un trágico ejemplo: el suicidio de un adolescente después de chatear con un bot. Daniela Amodei señaló que en Anthropic “no permitimos usuarios menores de 18 años en Claude”, y agregó que la plataforma identifica patrones de comportamiento que sugieren que el usuario es menor de edad.
En cuanto a la supervisión, Daniela precisó: “Claude es bastante bueno detectando, en base a la información, si alguien es realmente menor de 18”.
También se refirieron al riesgo de que las personas establezcan lazos afectivos intensos con la IA. Dario Amodei afirmó: “Creo que enamorarse de estos sistemas es una mala idea. ¿Quieres ser adicto a estas cosas o quieres que te ayuden a vivir tu vida?”.
Esta filosofía se refleja en su modelo comercial. El CEO explicó: “No hacemos anuncios. No queremos que los usuarios pasen la mayor cantidad de horas posible frente a la pantalla”.
Sobre el impacto psicológico, Dario advirtió: “Si los modelos no están bien diseñados, son lo suficientemente atractivos para que eso suceda. O si no lo son, pronto lo serán. Eso es absolutamente un peligro real”.
Regulación, transparencia y responsabilidad pública
El rol de los gobiernos y la ciudadanía en el control de la IA fue un tema clave. Anthropic se constituyó como public benefit corporation, una forma jurídica que obliga a armonizar las metas empresariales con el bienestar colectivo.
Los fundadores revelaron que cada uno se comprometió a destinar el 80% de su riqueza futura a causas filantrópicas vinculadas a la misión social de la compañía.
La empresa también se ha opuesto a que su tecnología se emplee con fines militares, sobre todo en armas autónomas y vigilancia masiva.
“Sentimos que no vale la pena defender el país si eso implica ir en contra de los valores democráticos”, enfatizó Dario. Aclaró que la decisión fue unánime, aunque temían quedar fuera de oportunidades comerciales.
En el ámbito regulatorio, Anthropic ha respaldado abiertamente leyes para controlar la IA, mientras otras compañías del sector se mostraban en contra.
“Decidimos que era central para los valores de la empresa hablar a favor de la regulación, aunque eso implicara perder relaciones políticas o el apoyo de otros actores”, explicó Dario. Su hermana agregó: “creemos que el papel del gobierno en el desarrollo y regulación de la inteligencia artificial será increíblemente importante”.
Cambios en el mercado laboral y en las profesiones
Otro punto crucial fue el efecto de la IA en el empleo. Los Amodei señalaron que el progreso ya está alterando el mercado laboral y que “si solo avanzamos sin pensar, muchos trabajos de nivel inicial van a desaparecer”.
Sin embargo, prevén que cuando la IA asuma labores técnicas, destrezas como la empatía y la comunicación ganarán importancia.
Pusieron el ejemplo de la medicina: “Hoy, valoramos a los médicos por su capacidad de diagnóstico, pero en un futuro donde la IA sea igual de buena en esa tarea, las cualidades humanas serán más importantes”, indicó Daniela.
Seguridad digital y el desafío de Mythos
Hacia el final, presentaron Mythos, su nuevo modelo que superó a ingenieros humanos en la detección de fallos de software, un gran paso para combatir ciberataques.
Por razones de seguridad, decidieron liberarlo primero a compañías de infraestructura crítica como bancos y proveedores de software, para que refuercen sus defensas antes de un lanzamiento masivo.
Anthropic afirma que así disminuye la posibilidad de que estas potentes herramientas sean usadas para delitos cibernéticos.
Los hermanos admitieron que aún hay incertidumbre sobre cómo manejar los nuevos peligros, a pesar de tener un equipo de seguridad. “No dormimos bien, pero queremos hacer lo correcto”, confesó Daniela.
Fuente: Infobae
