El fundador y máximo responsable de Nvidia, Jensen Huang, sostiene que el desarrollo de la inteligencia artificial no necesita marcos legales adicionales para mitigar sus potenciales riesgos. Durante el evento Dreamforce, celebrado el 15 de septiembre en San Francisco, el ejecutivo argumentó que la seguridad en este ámbito debe ser tratada primordialmente como un desafío de ingeniería, y que son las propias compañías las que deben determinar cuándo un producto está listo para salir al mercado.
Huang señaló que los mecanismos del mercado ya generan incentivos suficientes para que las empresas eviten comercializar sistemas que consideren inseguros. Según su visión, una organización debe pausar o ralentizar su avance si no tiene la certeza de que un sistema opera correctamente y es seguro.
Estas declaraciones se dan en medio de un intenso debate dentro del sector tecnológico sobre cómo gestionar los riesgos de sistemas de inteligencia artificial cada vez más potentes.
La seguridad vista como un problema de ingeniería
Durante su intervención, Huang descartó la noción de tratar la inteligencia artificial como una especie de “mente alienígena”. Para él, estos sistemas son, en esencia, combinaciones de hardware y software creadas por seres humanos y, por lo tanto, pueden ser controlados mediante técnicas de ingeniería y las normativas ya existentes.
“La seguridad es un problema de ingeniería, no legal”, afirmó el líder de Nvidia. Su postura se basa en que los modelos de IA son sistemas informáticos complejos, y que las empresas responsables de desarrollarlos deben integrar las medidas de seguridad necesarias antes de ponerlos a disposición de los usuarios.
Huang también rechazó la idea de que exista una contradicción inevitable entre avanzar rápidamente y desarrollar productos seguros. A su juicio, las empresas pueden acelerar la innovación y, al mismo tiempo, detenerse cuando detecten que un sistema no está preparado.
El mercado como mecanismo regulador
La propuesta de Huang otorga un rol central a las decisiones empresariales. Su razonamiento es que una compañía que no confíe en la funcionalidad, capacidad o seguridad de un producto no debería lanzarlo al mercado.
“No necesitamos nuevas leyes. No necesitamos nuevas regulaciones”, sostuvo durante la conferencia. En su opinión, las fuerzas del mercado ya están presentes y deberían incentivar a las empresas a determinar cuándo acelerar el desarrollo y cuándo hacer una pausa.
Este planteamiento supone priorizar la responsabilidad interna de las compañías frente a la creación de nuevas normas específicas para la inteligencia artificial.
Una postura divergente en la industria
Las afirmaciones de Huang llegan mientras otros líderes tecnológicos proponen enfoques distintos para enfrentar los riesgos de la IA. El CEO de Anthropic, Dario Amodei, ha defendido la necesidad de establecer estándares de seguridad y mecanismos de coordinación para gestionar el desarrollo de sistemas cada vez más avanzados.
El debate también involucra a OpenAI y otras firmas, que han explorado distintas fórmulas para evaluar y controlar los riesgos de los modelos. La diferencia entre estas posiciones refleja una discusión más amplia sobre cuánto debe depender la seguridad de los controles internos de las empresas y cuánto de normas externas.
Nvidia, actor clave en la expansión de la IA
La postura de Huang también debe entenderse en el contexto del papel central que ocupa Nvidia en la industria. La compañía fabrica gran parte de los procesadores utilizados para entrenar y ejecutar modelos de inteligencia artificial, por lo que el crecimiento de esta tecnología ha impulsado una fuerte demanda de sus sistemas de computación.
El propio Huang mantiene una visión expansiva sobre el futuro de la IA. Durante la conversación defendió que la tecnología puede aumentar la productividad y afirmó que su ambición empresarial es mayor que nunca.
Sus declaraciones no cierran el debate sobre la regulación, pero dejan clara su posición: la velocidad de innovación y la seguridad no tienen por qué ser incompatibles y, en su opinión, no hace falta crear nuevas leyes para conseguir ambas.
Fuente: Infobae