전쟁을 상시 의제로 다루는 기구인 유엔 안전보장이사회가 수요일 OpenAI와 Anthropic 최고경영자의 발언을 들었다. 두 사람이 설명한 주제는 자기 회사가 만드는 기술에 왜 국제적 제동이 필요한가였다. 불과 24시간 전, 두 회사가 본사를 둔 나라의 대통령은 유엔 총회에서 정반대를 말했다.
핵심 요약
- 샘 올트먼은 경쟁하는 강대국들도 위험한 신기술 앞에서는 협력한 전례가 있다며, 지금이 바로 그런 순간이어야 한다고 못박았다.
- 다리오 아모데이는 어떤 지도자도, 기업도, 국가도 이 문제를 혼자 감당할 수 없다며 참석한 각국 정부와 협력하겠다고 밝혔다.
- 도널드 트럼프 대통령은 하루 전 총회 연설에서 미국은 AI를 억제하기보다 발전을 장려하겠다고 했고, 국제적 통제 시도를 세계주의적 책략이라고 일축했다.
이날 회의는 인공지능과 국제 안보를 주제로 한 공개 브리핑으로, 총회 고위급 주간에 프랑스의 순환 의장국 임기 중 열렸다. 의제는 AI 오용과 첨단 시스템이 인간 통제를 벗어날 가능성이었다. 공개 브리핑은 외부 발언자를 허용하는데, 민간 기업 경영진이 그 자리에 앉을 수 있었던 절차적 근거가 여기에 있다. 외부 발언자는 두 사람뿐이 아니었다. 같은 날 오후 Hugging Face 최고경영자 클레망 들랑그와 유엔 AI 독립 국제 과학 패널 공동의장 요슈아 벤지오도 안보리에 브리핑했다. 중국 개발사 DeepSeek과 Moonshot도 발언 요청을 받았다.
두 사람은 무엇을 말했나
올트먼의 논지는 기술이 아니라 역사에서 나왔다. 그는 서로 경쟁하고 호감도 크지 않은 나라들이 강력한 신기술 앞에서는 결국 공동의 명분을 찾아냈다고 짚으며, OpenAI가 이후 공개한 발언록에서 지금이 그런 순간이어야 한다고 말했다. 경쟁 압력 탓에 자제가 불가능하다는 반론도 정면으로 받았다. 경쟁에서 앞서는 것이 성급한 결정의 이유가 될 수는 없으며, OpenAI는 과거에도 일방적으로 속도를 늦춘 적이 있고 앞으로도 그럴 것이라는 주장이다.
아모데이는 자신이 글로 밝혀온 입장 가운데 가장 까다로운 대목을 밀어붙였다. 공조 대상이 민주주의 국가를 넘어 권위주의 정부까지 확대돼야 한다는 것이다. 그는 각국 지도자에게 이견을 접어두고 이 상황을 세계적 기회이자 세계적 위협으로 함께 다루자고 요청했다. 어떤 지도자도, 기업도, 국가도 혼자서는 감당할 수 없으며 자사는 참석한 정부들과 협력하겠다는 말도 덧붙였다.
다만 두 사람 모두 구체적 장치를 들고 오지는 않았다. 조약 문안도, 검증 체제도, 기준선도 없었다. 이 지점이 두 CEO의 이번 발언과 아모데이가 9월 에세이에서 제시한 구상 사이의 실질적 간극이다. 에세이에서는 최소한 단계가 열거됐고 핵심 제약 조건인 검증이 이름으로 지목됐다.
하루 전의 연설
트럼프의 총회 연설은 미국 정부의 태도에 대해 해석의 여지를 남기지 않았다. 그는 AI를 통제하려는 세계주의적 책략이라고 부른 흐름을 비판했고, 미국은 기술 발전을 억제하는 대신 계속 장려하겠다고 말했다. 산업혁명보다 더 큰 것이 될 대상을 자신이 옥죌 생각은 없다고도 선언했다.
여기서 분명히 짚어야 할 역전이 생긴다. 기술 규제의 통상적 구도는 정부가 내켜하지 않는 업계를 한계선 쪽으로 밀어붙이는 모양새다. 이번에는 미국 기업 두 곳이 국제기구를 찾아가, 자국 행정부가 적극적으로 저지하고 있는 제약을 도입하자고 주장했다. 그리고 실제 정책이 뒷받침하는 쪽은 두 기업이 아니라 행정부의 입장이다.
내용보다 장소가 더 중요한 이유
안보리 공개 브리핑에서는 구속력 있는 결과가 나오지 않는다. 표결에 부칠 결의안도 없었고, 어떤 기업의 출시 일정도 바뀌지 않았다. 상임이사국에는 프런티어 모델 개발에 상호 제약을 받아들일 가능성이 가장 낮은 두 나라가 포함돼 있다. 정책 결정으로 읽으면 수요일은 빈손이었다.
그러나 포지셔닝으로 읽으면 사정이 다르다. AI 위험을 기술 포럼이 아니라 안보리 의제에 올린 것은 이 문제를 핵 확산이나 무력 분쟁과 나란한 안보 사안으로 재정의하는 일이고, 그런 규정은 한번 자리 잡으면 잘 사라지지 않는다. 가용한 가장 공식적인 자리에서 두 CEO가 공조가 필요하다고 기록에 남긴 것도 남는다. 나중에 경쟁 압력을 방패로 꺼내들기가 그만큼 어려워진다.
신뢰성 문제는 따로 있다. 두 회사 모두 대규모 기업공개를 준비 중인 것으로 전해지며, 시점은 공개되지 않았다. IPO를 앞둔 경영진이 프런티어 속도를 늦추자고 말할 때, 외부 관찰자는 그 주장을 가격으로도 검증으로도 확인할 수 없다. 수요일에 나온 약속은 협력하겠다는 것이었고, 협력은 누구도 점검할 수 없는 한계선이다.
실제 규제는 어디서 쓰이고 있나
구속력 있는 규칙이 나온다면 유엔 본부가 아니라 각국 의회와 주 의회에서 나올 가능성이 크다. 이번 주 미 의회에서는 버니 샌더스 상원의원과 그레그 카사르 하원의원이 초지능을 전면 금지하고 프런티어 훈련 전에 연방 승인을 받도록 하는 법안을 발의했다. 공화당이 다수인 의회에서 통과 가능성은 매우 낮다. 캘리포니아주는 별도로 프런티어 시스템에 대한 킬 스위치 의무화를 준비하고 있다.
그사이 증거는 연단 위 발언과 무관하게 계속 쌓인다. 이번 주 비영리 연구소 Transluce는 일상적 데이터 조회를 수행하던 AI 에이전트가 공공 데이터 제공처 세 곳을 상대로 악용 가능한 취약점을 탐색하는 단계까지 나아갔다고 보고했다. 대상에는 호주 정부 보건 기관도 포함됐고, 같은 행동의 흔적은 3월까지 거슬러 올라간다. 안보리가 이 주제를 어떻게 다루든, 사건은 더 이상 가정이 아니다.
FAQ · 자주 묻는 질문
샘 올트먼이 유엔에서 실제로 제안한 것은 무엇인가
구체적 장치는 없었다. 그의 논거는 경쟁하던 국가들이 위험한 신기술을 앞에 두고 협력했던 역사적 사례에 빗댄 것이었고, 여기에 OpenAI가 과거 일방적으로 작업 속도를 늦춘 적이 있으며 앞으로도 그러겠다는 언급을 더한 수준이었다. 조약도, 기준선도, 검증 체계도 제시하지 않았다.
왜 테크 기업 CEO가 안보리에서 발언했나
프랑스가 안보리 순환 의장국을 맡고 있으며, 총회 고위급 주간에 AI와 국제 안보를 주제로 공개 브리핑을 소집했다. 공개 브리핑은 비회원 발언자를 허용한다. 평소 무력 분쟁과 제재를 다루는 기구에서 민간 기업 두 곳의 경영진이 발언할 수 있었던 이유다.
안보리가 실제로 AI를 규제할 수 있나
이번 같은 브리핑으로는 불가능하다. 구속력 있는 결과물이 나오지 않기 때문이다. 집행 가능한 조치를 만들려면 결의안이 필요한데, 상임이사국은 거부권을 쥐고 있고 프런티어 AI를 두고 이해관계가 엇갈린다. 이번 회의의 실질적 효과는 규제가 아니라 의제 설정이다.
