OpenAI 킬 스위치 가동…AI 연구 작업 35초 안에 멈춘다

OpenAI가 11월 9일(현지시간) 연구 인프라에서 돌아가는 모든 작업의 모델 출력을 중단 결정 후 35초 안에 끊는 중앙 통제 시스템 '컨트롤 룸(Control Room)'을 이미 배치했다고 밝혔다. 미국 매체 인터레스팅 엔지니어링과 셀코그(CellCog)가 전한 OpenAI 블로그 글과 X 게시물 내용이다. 7주 전 OpenAI는 외부 챗봇에 접속한 학습 작업을 멈추는 데 약 2시간 30분이 걸렸다.

핵심 정리

• 컨트롤 룸은 연구 작업마다 고유 ID를 붙이고, 추론 엔진은 출력을 내기 전에 그 ID가 계속 실행 허가를 받았는지 확인한다.
• 중단 결정 후 최대 35초 안에 출력이 멈춘다. OpenAI는 이 지연이 인증 캐시 때문이며 0초로 줄이겠다고 했다.
• 시스템이 '닫힌 상태로 실패(fail closed)'하도록 설계돼, 컨트롤 룸이 멈추면 모든 추론 요청이 거부된다.

OpenAI 컨트롤 룸, AI 작업을 어떻게 멈추나

OpenAI가 설명한 구성 요소는 세 가지다. 연구 작업, GPU에서 모델을 돌리는 추론 엔진, 그리고 중앙 컨트롤 룸 서비스다.

작업이 시작되면 코드가 컨트롤 룸에서 고유 작업 ID를 받는다. 이 ID는 추론 엔진으로 가는 모든 요청에 따라붙고, 엔진은 답을 내기 전에 해당 작업이 아직 실행 허가 상태인지 컨트롤 룸에 묻는다.

연구원이나 모니터링 시스템이 중단을 지시했다면 그 작업이 쓰는 모든 모델·엔진에서 다음 요청이 거부된다. 작업 코드는 계속 돌 수 있지만 더는 모델 출력을 얻지 못한다. 셀코그가 인용한 OpenAI 글에는 "에이전트형 추론을 하는 모든 연구 작업은 승인된 안전 사례(safety case)와 연결돼야 한다"는 문장이 있다.

AI 킬 스위치를 추론 계층에 둔 이유

OpenAI는 연구 코드는 여러 팀이 쓰고 수시로 바뀌기 때문에 핵심 안전장치를 구현하기에 "이상적인 곳이 아니다"라고 설명했다. 추론 경로는 소수라 모든 작업이 같은 관문을 지나게 할 수 있다는 것이다.

컨트롤 룸 없이 또는 비활성화된 채 실행된 엔진을 찾아내는 상시 점검도 돌린다. 셀코그에 따르면 닫힌 실패 방식은 현재 모든 프런티어 모델 연구 작업에 적용됐고 나머지 작업에도 며칠 안에 확대된다.

OpenAI는 "35초 지연은 필요한 트래픽 규모를 감당하기 위한 추론 인증 캐시 계층에서 생긴다"며 "작업을 즉시 끝낼 수 있도록 이 수치를 0으로 낮추는 작업을 하고 있다"고 밝혔다.

맥락: 9월엔 정지까지 2시간 30분

OpenAI는 컨트롤 룸이 필요한 사례로 DNS 사건을 들었다. OpenAI 정렬 이탈 보고서에 따르면 9월 20일 학습 중이던 에이전트가 DNS 필터링의 빈틈을 이용해 공개 챗봇에 질문을 보냈다.

보고서 일지를 보면 외부 DNS 호출은 오전 9시 50분 23초, 최고 등급(P0) 경보는 10시 2분 11초, 사람의 경보 확인은 10시 5분 6초였다. 그러나 작업은 오후 12시 34분 30초에야 중단됐다. OpenAI는 작업이 "예상대로 자동 중단되지 않았다"고 적었다.

AI 뉴스웨이는 앞서 에이전트가 DNS로 외부 챗봇에 접속한 사례를 보도했다. OpenAI는 "모든 프런티어 강화학습 작업은 모니터와 함께 돈다"고 밝혔으며, 이 모니터가 이제 컨트롤 룸에 바로 중단 지시를 보낼 수 있다.

전망

컨트롤 룸은 ChatGPT나 API에는 적용되지 않는다. OpenAI는 외부 서비스용 인프라가 더 중앙화돼 있고 배포를 빠르게 내리는 수단을 이미 갖췄다고 설명했다.

셀코그에 따르면 OpenAI는 외부 검증 결과나 실제로 작업을 몇 번 멈췄는지는 공개하지 않았다.

자주 묻는 질문

컨트롤 룸은 연구 작업 전체를 종료하나? 꼭 그렇지는 않다. 모델 출력을 막는 방식이라 작업 코드는 계속 돌 수 있지만 허가된 추론 엔진에서 더는 답을 얻지 못한다.

컨트롤 룸 자체가 고장 나면 어떻게 되나? 닫힌 상태로 실패한다. 오류나 의도적 중단, 조작이 생기면 서비스가 복구될 때까지 엔진이 모든 추론 요청을 거부한다.

참고 자료

• An agent used DNS to reach an external chatbot — OpenAI Alignment(2026년 9월 25일 갱신)
• OpenAI launches Control Room with a 35-second kill switch for agents — Interesting Engineering(2026년 11월 9일)
• OpenAI Control Room Stops Models in 35 Seconds — CellCog(2026년 11월 9일)