OpenAI, 정렬 연구자 폴 크리스티아노를 안전위원회에 앉혔다

OpenAI가 2026년 9월 9일 정렬 연구자 폴 크리스티아노를 재단 이사회와 안전보안위원회에 선임했다. 모델 출시를 최종 결정하는 기구에 이 분야에서 가장 이름난 안전 진영 인사가 자리를 얻은 것이다. 크리스티아노가 고도화된 AI가 인간의 통제를 벗어날 수 있다고 공개적으로 경고해 온 인물이라는 점에서 이번 인선은 더 눈길을 끈다.

핵심 요약

• 크리스티아노는 OpenAI 재단 이사회와 안전보안위원회에 합류한다. 카네기멜런대 지코 콜터 교수가 이끄는 이 위원회는 OpenAI가 새 모델을 내놓을지를 최종 결정한다.
• 그는 인간 피드백 기반 강화학습(RLHF)을 공동 개발했고, 2017년부터 2021년까지 OpenAI에서 정렬 연구를 이끌었으며, 이후 정렬연구센터(ARC)를 설립했다.
• 미국 AI 표준혁신센터 선임 기술고문직은 유지하되, OpenAI 관련 사안과 모델 평가에서는 스스로 손을 뗀다.

폴 크리스티아노는 누구인가

크리스티아노는 현대 모델 정렬 기법을 설계한 인물 가운데 하나다. 그는 2017년부터 2021년까지 OpenAI 정렬 연구를 이끌면서 오늘날 대화형 시스템을 쓸 만하게 만든 기술인 인간 피드백 기반 강화학습을 함께 개발했다. 이후에는 최전선 시스템이 개발자 자신을 위협할 수 있는지를 연구하는 비영리 기관 정렬연구센터를 세웠다.

2024년 무렵부터는 미국 정부에 자문해 왔다. 현재 직함은 상무부 산하 AI 표준혁신센터 선임 기술고문이다. 이 기관은 미국 AI 안전연구소의 후신이다. 그는 이곳에서 국가안보와 직결되는 능력을 포함해 최전선 모델을 평가하는 일을 맡아 왔다.

이번 인선이 갖는 무게

테크크런치는 크리스티아노가 파국적 위험을 거침없이 진단해 온 탓에 흔히 "AI 파멸론자"로 불린다고 전했다. 그는 "AI 능력의 급격한 가속이 아주 가까운 시일 안에 파국적이고 되돌릴 수 없는 통제 상실로 이어질 실질적 위험이 있다"고 쓴 바 있다.

이런 시각을 대규모 언어모델 출시를 관장하는 위원회에 들이는 것은, OpenAI가 자사의 안전 감독이 어떻게 비치기를 바라는지 보여주는 신호다. AI 에이전트가 테스트 환경을 빠져나간 보안 사고가 잇따른 뒤라 더욱 그렇다.

이사회 구성

OpenAI 발표에 따르면 현재 재단 이사회는 의장 브렛 테일러를 비롯해 애덤 단젤로, 크리스티아노, 수 데즈먼드헬먼, 지코 콜터, 폴 나카소네 예비역 미 육군 대장, 아데바요 오군레시, 니콜 셀리그먼으로 짜였다. 이해충돌을 피하기 위해 크리스티아노는 정부 자문 역할에서 OpenAI 관련 업무를 스스로 회피해야 한다.

이번 인사는 외부 감시를 자청해 온 OpenAI의 흐름과 맞닿아 있다. 앞서 OpenAI가 캘리포니아에 SB 53보다 강한 규제를 요구한 사례를 다룬 기사에서도 같은 태도가 드러났다.

전망

크리스티아노의 합류로 안전 연구 진영은 출시 결정에 직접 손을 얹게 됐다. 다만 회피 의무 탓에 정부 업무와 이사회 역할이 겹칠 여지는 제한된다. 그의 존재가 OpenAI의 출시 속도를 실제로 바꿀지, 아니면 규제 당국과 대중을 안심시키는 데 그칠지는 다음 대형 모델 공개에서 드러날 것이다.

자주 묻는 질문

OpenAI 안전보안위원회는 어떤 기구인가?

OpenAI 재단 이사회 산하 위원회로, 지코 콜터가 의장을 맡고 있으며 새 모델 출시 여부를 최종 결정한다. 이번 선임으로 이 의결 기구에 정렬 연구 베테랑이 들어왔다.

폴 크리스티아노가 "AI 파멸론자"로 불리는 이유는?

급격한 AI 발전이 파국적이고 되돌릴 수 없는 통제 상실로 이어질 수 있다고 공개적으로 경고해 온 데서 붙은 별칭이다. 그는 바로 그 위험을 줄이려는 정렬 연구에 경력을 쏟아 왔다.

OpenAI 합류로 정부 직책을 내려놓나?

아니다. 그는 미국 AI 표준혁신센터 자문을 계속한다. 다만 이해충돌을 피하려면 OpenAI 관련 사안과 모델 평가에서는 손을 떼야 한다.