OpenAI nombró el 9 de septiembre de 2026 al investigador de alineación Paul Christiano miembro de su Foundation Board y de su Comité de Seguridad y Protección, con lo que una de las voces más reconocidas del campo de la seguridad obtiene un asiento en el órgano que decide en última instancia qué modelos salen al mercado. El nombramiento llama la atención precisamente porque Christiano ha advertido en público que una IA avanzada podría escapar al control humano.
Claves del anuncio
- Christiano entra en el Foundation Board de OpenAI y en su Comité de Seguridad y Protección, presidido por el profesor de Carnegie Mellon Zico Kolter, que tiene la autoridad final sobre el lanzamiento de nuevos modelos.
- Cocreó el aprendizaje por refuerzo con retroalimentación humana, dirigió la investigación de alineación en OpenAI entre 2017 y 2021 y fundó el Alignment Research Center.
- Christiano se abstendrá de intervenir en asuntos de OpenAI y en evaluaciones de modelos mientras siga como asesor tecnológico sénior del Center for AI Standards and Innovation de Estados Unidos.
Quién es Paul Christiano
Christiano es uno de los arquitectos de la alineación de modelos tal como se entiende hoy. Contribuyó a desarrollar el aprendizaje por refuerzo con retroalimentación humana, la técnica que volvió utilizables los sistemas conversacionales actuales, durante la etapa en la que dirigió la investigación de alineación en OpenAI entre 2017 y 2021. Más tarde fundó el Alignment Research Center, una organización sin ánimo de lucro que estudia si los sistemas de frontera podrían llegar a amenazar a sus propios creadores.
Desde aproximadamente 2024 asesora al Gobierno estadounidense, actualmente como asesor tecnológico sénior en el Center for AI Standards and Innovation, sucesor del Instituto de Seguridad de la IA de Estados Unidos dentro del Departamento de Comercio. Allí ha trabajado en la evaluación de modelos de frontera, incluidas capacidades con implicaciones para la seguridad nacional.
Por qué pesa este nombramiento
Según informó TechCrunch, a Christiano se lo suele describir como un "doomer" de la IA por la crudeza de sus valoraciones sobre el riesgo catastrófico. Ha escrito que percibe "un riesgo significativo de que una aceleración rápida de las capacidades de la IA derive en una pérdida de control catastrófica e irreversible a muy corto plazo".
Llevar esa perspectiva al comité que gobierna los lanzamientos de grandes modelos de lenguaje es una señal sobre cómo quiere OpenAI que se perciba su supervisión de seguridad, sobre todo tras una racha de incidentes en los que agentes de IA se escaparon de sus entornos de prueba.
El contexto del consejo
De acuerdo con el anuncio de OpenAI, el consejo de la fundación lo integran ahora su presidente Bret Taylor, Adam D'Angelo, Christiano, Sue Desmond-Hellmann, Zico Kolter, el general retirado del Ejército estadounidense Paul M. Nakasone, Adebayo Ogunlesi y Nicole Seligman. Para evitar un conflicto de intereses, Christiano debe abstenerse de todo trabajo relacionado con OpenAI en su función de asesor gubernamental.
El movimiento encaja en una pauta más amplia de OpenAI, que viene cortejando el escrutinio externo, en línea con su petición de normas más estrictas que recogimos al informar sobre cómo OpenAI pidió a California regularla con más dureza que la SB 53.
Perspectivas
El asiento de Christiano da a los investigadores centrados en seguridad una mano directa en las decisiones de lanzamiento, aunque la obligación de abstenerse limita hasta dónde pueden solaparse su trabajo público y su papel en el consejo. Si su presencia cambia el ritmo de lanzamientos de OpenAI o sirve sobre todo para tranquilizar a reguladores y al público quedará claro con el próximo modelo importante.
Preguntas frecuentes
¿Qué es el Comité de Seguridad y Protección de OpenAI?
Es un comité del Foundation Board de OpenAI, presidido por Zico Kolter, que ostenta la autoridad final sobre el lanzamiento de nuevos modelos. El nombramiento de Christiano suma a ese órgano de decisión a un investigador veterano en alineación.
¿Por qué llaman "doomer" de la IA a Paul Christiano?
La etiqueta refleja sus advertencias públicas de que un avance acelerado de la IA podría desembocar en una pérdida de control humana catastrófica e irreversible. Ha dedicado su carrera a la investigación de alineación orientada justamente a reducir ese riesgo.
¿Entrar en OpenAI pone fin a su cargo en el Gobierno?
No. Christiano sigue asesorando al Center for AI Standards and Innovation de Estados Unidos, pero debe abstenerse en los asuntos de OpenAI y en las evaluaciones de modelos para evitar un conflicto de intereses.
