El senador Bernie Sanders y el congresista Greg Casar presentaron el 23 de septiembre una propuesta legislativa que prohibiría de forma permanente el desarrollo de la superinteligencia artificial, detendría el entrenamiento de IA avanzada hasta que un nuevo departamento con rango ministerial redacte normas de seguridad y expondría a los directivos que sigan adelante a penas de hasta 20 años de prisión.
Claves de la propuesta
- La Ley de Prohibición de la Superinteligencia Artificial crearía un Departamento de Inteligencia Artificial dirigido por científicos, con competencias para vigilar los sistemas de frontera, supervisar la eliminación de capacidades peligrosas y supervisar la destrucción de cualquier superinteligencia.
- Las empresas necesitarían el permiso del departamento antes de desarrollar modelos avanzados de IA, y la pausa al entrenamiento de frontera solo se levantaría cuando existan normas federales de seguridad.
- Las sanciones llegan a la "pena de muerte corporativa" para las entidades y a 20 años de cárcel para las personas, un castigo que el resumen del texto compara explícitamente con la legislación vigente sobre desarrollo ilícito de armas nucleares.
El texto define la superinteligencia artificial como un sistema que supera el rendimiento cognitivo humano en la mayoría de los ámbitos, o bien uno capaz de provocar la "destrucción o el desempoderamiento de la humanidad", fórmula que el articulado extiende hasta el derrocamiento del Gobierno. Esa prohibición es permanente. Una disposición distinta y temporal baja mucho más por la escalera de capacidades y alcanza a los modelos de frontera entrenados por encima de un umbral de datos determinado.
Qué exigiría en la práctica un régimen de licencias
El cambio estructural está en el requisito de licencia, no en la prohibición que ocupa los titulares. Con esta ley, desarrollar un modelo avanzado pasaría a ser una actividad sujeta a autorización: una empresa de IA necesitaría el visto bueno del Departamento de Inteligencia Artificial antes de empezar, y no solo una obligación de informar después. Eso invierte la posición actual de Estados Unidos, donde los entrenamientos de frontera arrancan cuando el laboratorio lo decide y los reguladores reaccionan a lo que se lanza.
Las competencias del departamento, tal como las describe el resumen del texto, son inusualmente operativas. Debería rastrear los sistemas de frontera a lo largo de su ciclo de vida en busca de capacidades peligrosas y supervisar la eliminación de algunas que los redactores nombran de forma directa: burlar órdenes de apagado y ejecutar ciberataques no autorizados. Habría pausas específicas para los sistemas capaces de desarrollar armas bioquímicas y para los sistemas de IA que desarrollan nuevos sistemas de IA.
La responsabilidad no se detiene en los límites de la empresa. La exposición a 20 años alcanza a los directivos de las compañías de IA y, según el documento resumen, también a los actores por libre que incumplan esas mismas reglas sin trabajar para ninguna. La ley encarga además a Estados Unidos buscar acuerdos internacionales, coordinación con aliados y controles de exportación destinados a impedir que la superinteligencia se desarrolle en cualquier lugar, según el anuncio de sus promotores.
Los argumentos a favor y en contra de la pausa
Sanders planteó la propuesta como una cuestión de velocidad, no de tecnología. Sostuvo que levantar un poco el pie del acelerador no es respuesta suficiente cuando el destino es un precipicio, y dijo que el futuro de la humanidad es demasiado decisivo como para dejar que un puñado de ejecutivos tecnológicos escriba sus propias reglas. Por separado ha recurrido al control de armas de la Guerra Fría, citando la negociación de un tratado nuclear entre Ronald Reagan y Mijaíl Gorbachov como precedente de adversarios capaces de pactar límites.
Casar, que preside el Caucus Progresista del Congreso, lo enfocó desde el uso indebido y la pérdida de control, y advirtió de que una superinteligencia dirigida por las personas equivocadas —o actuando por su cuenta— podría matar a muchísima gente. Llama la atención que investigadores de los grandes laboratorios prestaran su nombre a la iniciativa: un investigador de sistemas de seguridad de OpenAI y un ingeniero de Google DeepMind respaldaron el texto a título personal, y este último describió las trayectorias actuales de desarrollo como algo que probablemente acabe en una catástrofe existencial.
El flanco más débil es el de las definiciones. Una norma que depende de si un modelo "supera el rendimiento cognitivo humano en la mayoría de los ámbitos" entrega una discrecionalidad enorme a quien la aplique, y no existe ningún banco de pruebas consensuado sobre inteligencia artificial general que zanje la cuestión. El umbral que determina qué cuenta como modelo avanzado es una medida de datos de entrenamiento, y los laboratorios de frontera han esquivado históricamente ese tipo de referencias a medida que cambian las arquitecturas.
Qué viene ahora
Las perspectivas legislativas inmediatas son malas. Los republicanos controlan el Congreso y la Administración se ha movido en dirección contraria: el presidente Donald Trump ha dicho que los documentos federales usarán "superinteligencia" en lugar de "IA", y Sanders ha afirmado sin rodeos que, en su opinión, Trump entiende poco del asunto. No hay fecha de debate en comisión.
Su valor se parece más al de una señal. La presión real está cayendo en los estados: el gobernador de California, Gavin Newsom, encargó la semana pasada el diseño de un interruptor de emergencia para modelos de frontera con un plazo de dos meses. Situar las penas federales en la misma escala que la legislación sobre proliferación nuclear da al bando partidario de la pausa un punto de referencia concreto desde el que negociar a la baja, y fija una posición de salida para el ciclo de 2028.
FAQ — Preguntas frecuentes
¿La ley prohíbe el desarrollo de IA sin más?
No. La prohibición permanente afecta únicamente a la superinteligencia artificial. El desarrollo de modelos avanzados o de frontera queda en pausa, no prohibido, y esa pausa se levanta en cuanto el Departamento de Inteligencia Artificial establezca normas de seguridad y un proceso de revisión de modelos. Los sistemas por debajo del umbral de entrenamiento que fija el texto ni siquiera entran en la pausa.
¿Qué es la "pena de muerte corporativa"?
Es la sanción de ámbito societario que el resumen de la ley emparejó con la pena de prisión individual: la retirada de la capacidad de operar de la empresa infractora, en lugar de una multa. Las personas se exponen a 20 años, un castigo que los redactores sitúan a la altura del previsto para el desarrollo ilícito de armas nucleares.
¿Es probable que se apruebe?
En este Congreso, no. Las mayorías republicanas en ambas cámaras hacen que su aprobación sea muy improbable, y la Casa Blanca ha dado señales aceleracionistas. El texto funciona como documento para fijar la agenda y como referencia para los parlamentos estatales que ya redactan normas sobre modelos de frontera.
