Los máximos responsables de algunas de las principales empresas de inteligencia artificial del mundo advirtieron ante el Consejo de Seguridad de las Naciones Unidas que el avance de esta tecnología requiere controles más estrictos y una cooperación internacional reforzada. La sesión, convocada por Francia durante la Asamblea General, reunió a representantes de OpenAI, Anthropic y Hugging Face.
El director ejecutivo de Anthropic, Dario Amodei, alertó sobre las consecuencias que podría tener un desarrollo inadecuado de la inteligencia artificial. "Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto", sostuvo ante los 15 miembros del organismo.
En esa línea, el CEO de OpenAI, Sam Altman, advirtió: "Podríamos perder el control del futuro frente a la IA. El riesgo es que avance tan rápido que las personas ya no puedan intervenir".
El empresario señaló que las decisiones más importantes sobre el rumbo de la tecnología no pueden quedar exclusivamente en manos de laboratorios privados y reclamó procesos democráticos con participación de los gobiernos.
En este contexto, Amodei propuso establecer estándares de seguridad más exigentes, mecanismos para verificar las capacidades reales de los modelos y acuerdos que impidan que la IA sea utilizada para fabricar armas biológicas. Además, aseguró que Anthropic reducirá el ritmo de desarrollo cuando sea necesario para garantizar la seguridad de sus productos.
Estados Unidos rechazó una regulación internacional
En tanto, las advertencias realizadas por los empresarios contrastaron con la postura del gobierno de Donald Trump. Su asesor de Ciencia y Tecnología, Michael Kratsios, rechazó la creación de un esquema global de regulación y sostuvo que los países deberían concentrarse en compartir buenas prácticas y desarrollar capacidades propias.
Francia y Reino Unido, en cambio, defendieron una mayor coordinación internacional. El canciller Jean-Noël Barrot comparó el desafío de la IA con los inicios de la era atómica, mientras que Ed Miliband respaldó las advertencias de los ejecutivos y anunció que el Reino Unido impulsará el tema durante su presidencia del G20 en 2027.
El debate también incluyó los riesgos de los sistemas autónomos en conflictos armados. El presidente ucraniano Volodímir Zelenski reclamó mantener el control humano sobre las decisiones en el campo de batalla.
La reunión se produjo horas antes de la cumbre entre Trump y Xi Jinping, en la que la inteligencia artificial figuraba entre los temas centrales.