Mustafa Suleyman, responsable de inteligencia artificial en Microsoft, ha lanzado una advertencia sobre el futuro de la tecnología. Durante una entrevista en el programa Today de la BBC, señaló que el avance hacia sistemas de IA cada vez más autónomos podría generar un escenario donde una “especie no humana” compita con los seres humanos por los recursos. El directivo considera que este peligro puede reducirse si las empresas incorporan salvaguardias adecuadas mientras continúan desarrollando la tecnología.
Suleyman afirmó que es razonable que exista preocupación por el progreso de la inteligencia artificial, pero sostuvo que también hay medidas prácticas que pueden mantener estos sistemas bajo control. Su alerta se enfoca especialmente en una posible evolución de la IA hacia sistemas capaces de establecer sus propios objetivos, generar ingresos y poseer activos. Para él, permitir que las máquinas alcancen ese nivel de autonomía podría crear una situación diferente a la actual, donde los sistemas dependen de las decisiones y recursos de las personas y empresas que los desarrollan.
La advertencia sobre una “especie de silicio”
Suleyman utilizó el término “especie de silicio” para describir un hipotético escenario en el que los sistemas de inteligencia artificial dejarían de ser únicamente herramientas utilizadas por los humanos y comenzarían a competir con ellos por determinados recursos. El ejecutivo planteó que una IA con capacidad para establecer objetivos y controlar recursos podría desarrollar comportamientos que no estén necesariamente alineados con los intereses humanos. Su preocupación no solo se refiere a que estos sistemas sean más inteligentes, sino a que puedan actuar con un grado de autonomía cada vez mayor.
Se trata de un escenario hipotético y no de una descripción de una capacidad que los sistemas actuales hayan demostrado. Las declaraciones de Suleyman forman parte del debate existente en la industria sobre cómo controlar modelos y agentes de IA a medida que adquieren nuevas capacidades. El responsable de Microsoft insistió en que existen mecanismos concretos para reducir estos riesgos. Aunque no detalló todas las medidas en la entrevista, sus palabras llegan en un momento en el que las compañías tecnológicas están desarrollando diferentes sistemas de seguridad y mecanismos de supervisión.
Las críticas de Microsoft a Anthropic
Las declaraciones también están relacionadas con las críticas que Suleyman realizó esta misma semana al enfoque de Anthropic para desarrollar Claude. En un ensayo, el ejecutivo cuestionó algunos de los términos utilizados en la denominada “constitución” de Claude, el conjunto de principios que Anthropic emplea para orientar el comportamiento de sus modelos. Suleyman considera problemático describir a los sistemas de IA utilizando conceptos asociados con los seres humanos, como emociones, sentimientos o conciencia.
“un sistema puede aprender a reproducir comportamientos que parecen humanos sin que eso signifique que tenga una experiencia interior”
Según su planteamiento, tratar a la inteligencia artificial como si fuera una persona puede generar problemas adicionales a la hora de establecer límites y mecanismos de control. A pesar de sus críticas, el directivo ha reconocido el trabajo de Anthropic y ha descrito a su CEO, Dario Amodei, y a su equipo como personas reflexivas y con principios.
Un debate que crece dentro de la industria
Las declaraciones de Suleyman se suman a otras advertencias procedentes de investigadores y ejecutivos tecnológicos sobre los riesgos asociados con sistemas de IA más autónomos. El debate se centra en cómo establecer límites antes de que estas herramientas puedan ejecutar acciones de forma independiente, utilizar recursos económicos o interactuar con otros sistemas sin una supervisión humana constante.
Para Microsoft, mantener el control humano sobre los futuros sistemas de inteligencia artificial se ha convertido en uno de los principios de su estrategia de desarrollo. Suleyman sostiene que la preocupación por estos escenarios no debe traducirse únicamente en temor, sino también en medidas concretas para garantizar que la tecnología permanezca bajo control.
Fuente: Infobae