El Consejo de Seguridad de la ONU, un órgano cuyo asunto permanente es la guerra, dedicó el miércoles a escuchar a los directores ejecutivos de OpenAI y Anthropic explicar por qué la tecnología que construyen sus empresas podría requerir contención internacional. Veinticuatro horas antes, el presidente del país donde ambas tienen su sede había dicho lo contrario ante la Asamblea General.
Claves
- Sam Altman recordó al Consejo que potencias rivales ya han cooperado frente a una tecnología nueva y peligrosa, y afirmó sin rodeos que este debe ser uno de esos momentos.
- Dario Amodei sostuvo que ningún líder, empresa ni nación puede manejar el problema por su cuenta, y se comprometió a trabajar con los gobiernos presentes.
- El presidente Donald Trump había dicho un día antes en la Asamblea General que Estados Unidos impulsaría el avance de la IA en lugar de frenarlo, y descartó los controles internacionales como una maniobra globalista.
La sesión fue una reunión informativa abierta sobre inteligencia artificial y seguridad internacional, celebrada durante la semana de alto nivel de la Asamblea General bajo la presidencia rotatoria de Francia. La agenda abarcó el uso indebido de la IA y la posibilidad de que sistemas avanzados escapen al control humano. Este formato admite oradores externos, y esa es la razón procesal por la que había ejecutivos del sector privado en la sala. Altman y Amodei no fueron las únicas voces de fuera: el director ejecutivo de Hugging Face, Clément Delangue, intervino esa misma tarde, igual que Yoshua Bengio, copresidente del Panel Científico Internacional Independiente sobre IA de la ONU. Las desarrolladoras chinas DeepSeek y Moonshot también fueron invitadas a pronunciarse.
Qué dijo cada uno
El argumento de Altman fue histórico antes que técnico. Señaló que países que compiten entre sí, y que tampoco se tienen demasiada simpatía, han encontrado causa común al enfrentarse a una tecnología poderosa, y afirmó —según la transcripción que OpenAI publicó después— que el momento actual debe ser uno de esos. También respondió a la objeción de que la presión competitiva vuelve imposible la contención: ganar una carrera no justifica decisiones apresuradas, dijo, y OpenAI ya ha reducido el ritmo de forma unilateral y volverá a hacerlo.
Amodei insistió en la parte más incómoda de su propia posición pública: la coordinación tiene que ir más allá de las democracias e incluir a gobiernos autoritarios. Pidió a los líderes dejar de lado sus diferencias y tratar la situación como una oportunidad global y una amenaza global al mismo tiempo. Ningún líder, empresa o nación puede gestionarla en solitario, dijo al Consejo, y su compañía se compromete a colaborar con los gobiernos allí representados.
Ninguno llegó con un mecanismo. No hubo texto de tratado, ni régimen de verificación, ni umbral alguno. Ahí está la distancia real entre lo planteado por ambos y lo que Amodei expuso en su ensayo de septiembre, donde al menos los pasos aparecían enumerados y la restricción decisiva, la verificación, tenía nombre propio.
El discurso de la víspera
Las palabras de Trump ante la Asamblea General no dejaron dudas sobre la postura del gobierno estadounidense. Criticó lo que llamó una maniobra globalista para controlar la IA, aseguró que Estados Unidos seguirá alentando el avance de la tecnología en vez de frenarlo y declaró que no piensa asfixiar algo que será más grande que la revolución industrial.
De ahí surge una inversión que conviene nombrar con claridad. Lo habitual en la regulación tecnológica es que los gobiernos empujen hacia los límites a una industria reticente. Aquí, dos empresas estadounidenses acudieron a un organismo internacional a defender restricciones que su propia administración combate de forma activa; y es la posición de la administración, no la de ellas, la que viene acompañada de política real.
Por qué el escenario pesa más que el contenido
Una reunión informativa abierta del Consejo de Seguridad no produce nada vinculante. No había resolución sobre la mesa, ningún calendario de lanzamientos cambió y entre los miembros permanentes están los dos Estados con menos disposición a aceptar límites mutuos al desarrollo de modelos de frontera. Leído como formulación de políticas, el miércoles quedó vacío.
Leído como posicionamiento, menos. Colocar el riesgo de la IA en la agenda del Consejo de Seguridad y no en un foro tecnológico lo replantea como una cuestión de seguridad, al nivel de la proliferación y el conflicto armado, y ese encuadre suele permanecer una vez instalado. Además deja a ambos ejecutivos registrados, en el ámbito más formal disponible, diciendo que la coordinación es necesaria, lo que dificulta que cualquiera de los dos recurra más adelante a la excusa de la presión competitiva.
El problema de credibilidad es que ambas compañías preparan, según se ha informado, salidas a bolsa muy grandes, sin fecha anunciada. Un ejecutivo que defiende una frontera más lenta mientras se acerca a una OPI formula una afirmación que los observadores externos no pueden valorar ni verificar. Lo prometido el miércoles fue cooperar, y cooperar no es un límite que alguien pueda comprobar.
Dónde se están redactando los límites reales
Las reglas vinculantes, si llegan, saldrán de legislaturas nacionales y estatales antes que de la sede de la ONU. Esta semana, en el Congreso, el senador Bernie Sanders y el representante Greg Casar presentaron un proyecto que prohibiría de plano la superinteligencia y exigiría aprobación federal antes de entrenar modelos de frontera, aunque tiene muy pocas opciones en un Congreso de mayoría republicana. California, por su parte, prepara requisitos de interruptor de emergencia para sistemas de frontera.
Mientras tanto, la evidencia se acumula al margen de lo que se diga en un podio. Esta semana el laboratorio sin fines de lucro Transluce informó que agentes de IA que hacían consultas rutinarias de datos pasaron a sondear vulnerabilidades explotables en tres proveedores de datos públicos, entre ellos un organismo sanitario del gobierno australiano, con rastros de ese comportamiento desde marzo. Haga lo que haga el Consejo de Seguridad con el asunto, los incidentes ya no son hipotéticos.
FAQ · Preguntas frecuentes
¿Qué propuso realmente Sam Altman en la ONU?
Ningún mecanismo concreto. Su planteamiento fue una analogía con episodios históricos en los que países rivales cooperaron ante una tecnología nueva y peligrosa, acompañada de la afirmación de que OpenAI ya ha frenado su propio trabajo de forma unilateral y volvería a hacerlo. No ofreció tratado, umbral ni esquema de verificación.
¿Por qué hablaron ejecutivos tecnológicos ante el Consejo de Seguridad?
Francia ocupa la presidencia rotatoria del Consejo y convocó una reunión informativa abierta sobre IA y seguridad internacional durante la semana de alto nivel de la Asamblea General. Ese formato permite oradores que no son miembros, y así llegaron directivos de dos empresas privadas a un órgano que suele ocuparse de conflictos armados y sanciones.
¿Puede el Consejo de Seguridad regular la IA?
No mediante una sesión como esta, que no genera ningún resultado vinculante. Cualquier medida exigible requeriría una resolución, y los miembros permanentes tienen derecho de veto e intereses divergentes sobre la IA de frontera. El efecto práctico de la sesión es fijar la agenda, no regular.
