에이전트 1만 개가 만든 OpenAI의 나비에-스토크스 증명, 단서가 붙었다

9월 8일 아침 OpenAI의 수학자들은 약 1만 개의 자율 에이전트가 3차원 나비에-스토크스 방정식에서 특이점을 찾아냈다고 발표했다. 연구진이 방향을 잡고, 외부에 공개되지 않은 내부 모델 위에서 돌린 결과다. 그러나 12시간도 지나지 않아 수학계의 논쟁은 유체역학이 아니라 공로가 누구에게 있느냐로 옮겨갔다.

핵심 요약

• OpenAI는 약 1만 개의 에이전트가 88시간 동안 500만 건에 가까운 메시지를 주고받으며 폭발(blowup) 증명을 만들어냈고, 별도의 모델이 다시 17시간에 걸쳐 이를 Lean으로 형식화했다고 밝혔다.
• 이 회사는 100만 달러 클레이 상금을 청구하지 않는다. 증명에 쓰인 구성이 공식 밀레니엄 문제 정식화가 허용하지 않는 외력 항에 기대고 있기 때문이다.
• 12시간 앞서 관련 결과를 발표한 뉴욕대의 트리스탄 버크마스터는 Anthropic의 레벤트 알포게와 함께한 연구를 OpenAI가 들여다보고 이득을 봤을 가능성을 제기했고, OpenAI의 세바스티앙 부벡은 이를 부인했다.

에이전트가 실제로 증명한 것

19세기 중반에 쓰인 나비에-스토크스 방정식은 뉴턴의 제2법칙을 유체에 적용한 것이다. 클레이 수학연구소가 2000년에 100만 달러 상금을 건 미해결 문제는, 이 방정식의 해가 언제나 얌전하게 유지되는지, 아니면 아주 작은 유체 덩어리가 무한히 빠르게 움직이기 시작할 수 있는지를 묻는다. 후자가 바로 특이점이며, 이 분야에서는 폭발이라고 줄여 부른다.

OpenAI의 답은 폭발이 일어난다는 것이다. 회사의 기술 포스트에 따르면, 먼저 마찰 없는 유체를 다루는 오일러 방정식에 약 100개의 에이전트를 투입해 50시간 만에 정칙성 반증을 얻었다. 이어 나비에-스토크스를 겨냥해 규모를 1만 개 수준으로 키웠다. 이 에이전트들은 88시간 동안 돌면서 500만 건에 육박하는 메시지를 주고받았고, 두 번째 모델이 17시간을 더 들여 논증을 Lean으로 옮겼다. Lean은 논리 단계 하나하나를 기계가 검증하게 해주는 증명 보조 도구다. 부벡은 연산 비용을 수백만 달러 규모로 추산했다.

이 발표를 흔한 '모델이 수학 문제를 풀었다'류와 갈라놓는 것은 형식 검증이다. Lean은 논증이 그럴듯하게 들리는지에 관심이 없다. 다만 Lean이 검증하지 못하는 것이 하나 있다. 입력된 명제가 수학자들이 실제로 궁금해하는 그 명제인지 여부다. 단서는 정확히 그 지점에 붙는다. OpenAI의 구성은 유체를 바깥에서 밀어주는 외력 항을 도입한다. 상금 버전의 문제는 유체가 혼자 있을 때 어떻게 되는지를 묻는다. 상금을 신청하지 않겠다는 결정이야말로, 자사 결과가 공식 기준에 어느 정도로 부합하는지를 회사 스스로 평가한 가장 분명한 신호다.

공로 다툼이 불거진 이유

OpenAI가 발표하기 12시간 전, 뉴욕대의 버크마스터는 현재 Anthropic에 있는 알포게와 함께 여러 모델을 섞어 쓰며 밀접하게 관련된 문제 여러 개를 해결했다는 성명을 냈다. 두 사람은 8월 22일에 이미 Lean으로 검증한 오일러 증명을 확보했고 더 다듬은 논문을 준비할 계획이었으나, 진척 소식이 OpenAI에 흘러들어가자 일정을 앞당겼다. 버크마스터는 서두른 대가를 숨기지 않았다. 공개한 논문 세 편 가운데 하나를 조악하다고 표현하며 사과했다.

OpenAI는 3차원 오일러 결과의 우선권이 버크마스터와 알포게에게 있음을 인정하면서도 나비에-스토크스는 자사 몫이라고 주장한다. 애초에 이 문제에 달려든 계기가 두 사람의 진척에 관한 소문이었다는 점도 인정했다. 버크마스터의 성명은 여기서 더 나아가, OpenAI 연구자들 또는 그들의 에이전트가 두 사람이 OpenAI 모델을 써서 수행한 작업을 들여다보고 이득을 봤을 수 있다고 시사한다. 부벡은 내부 모델이 다른 경로로 독자적으로 오일러 결과에 도달했다며 이를 반박했다. 발표 시점 기준으로 당사자들은 같은 한 주를 두고 서로 확연히 다른 이야기를 하고 있다.

방법론을 만든 사람들

두 팀 모두 마드리드 수리과학연구소의 디에고 코르도바와 쿠네프대학의 루이스 마르티네스-소로아가 닦아둔 토대 위에 서 있다. 마르티네스-소로아는 2021년 학위 논문에서 컴퓨터를 아예 쓰지 않는 해석적 기법을 개발했다. 2013년 토머스 허우와 궈 뤄의 실린더 결과 이후 컴퓨터 보조 오차 제어에 기대온 분야에서 유행과는 거리가 먼 선택이었다. 2023년에 이르러 두 사람은 지저분한 외력 함수를 가진 오일러 방정식이 특이점을 허용한다는 것을, 특이점 없는 해를 무한히 겹겹이 쌓아 올리는 캐스케이드로 보였다. 남은 관문은 그 캐스케이드에서 매끄러운 외력 함수를 끌어내는 일이었고, 두 AI 그룹이 넘어선 것이 바로 이 단계로 보인다.

퀀타 매거진에 따르면, 클레이의 공식 문제 기술문을 쓴 프린스턴의 찰스 페퍼먼은 코르도바와 마르티네스-소로아를 이 이야기의 주인공이라고 불렀다. 버크마스터는 마르티네스-소로아가 필즈상을 받을 자격이 있다고 공개적으로 밝혔다. 정작 코르도바 본인이 AI 열풍을 두고 내놓는 말은 건조하다. 자신은 AI를 쓰지 않는다며, 자기에게는 루이스가 있기 때문이라고 농담한다.

AI 보조 수학에 남는 것

우선권 다툼을 걷어내고 나면 구조적인 주장 하나가 남는다. 며칠씩 돌아가는 AI 에이전트 군집을 형식 증명 시스템으로 검증하는 조합이 이제 연구 수준 수학에서 쓸 만한 도구가 됐다는 것이다. 이는 대규모 언어 모델이 경시대회 문제를 푸는 것과는 성격이 다른 이야기이며, OpenAI가 앞서 진행한 1200개 에이전트 실험에서 드러난 멀티 에이전트 확장 양상과 맞닿아 있다. 이제 남은 질문은 기술만큼이나 사회적인 것들이다. 한 연구소가 소문 하나에 연산 자원을 겨눌 수 있는 시대에 우선권을 어떻게 매길 것이며, 그 탐색을 가능하게 만든 방법론의 주인들에게 공로는 어떻게 되돌아갈 것인가.

FAQ

OpenAI가 밀레니엄 상금을 받게 되나?

아니다. OpenAI는 상금을 청구하지 않겠다고 밝혔다. 이번 증명은 방정식에 외력 항을 추가한 형태인 반면, 클레이 수학연구소의 공식 정식화는 외력이 없는 경우를 다룬다. 따라서 문서에 적힌 상금 기준을 충족하지 못한다.

증명은 검증됐나?

논증 자체는 Lean으로 형식 검증을 거쳤고, 이는 제시된 정리가 전제로부터 따라 나온다는 점을 강하게 뒷받침한다. 다만 형식화된 명제가 폭발 주장과 수학적으로 동등한지는 여전히 사람이 확인해야 하며, 그 검토는 진행 중이다.

루이스 마르티네스-소로아는 누구인가?

마드리드 쿠네프대학의 수학자다. 지도교수였던 디에고 코르도바와 함께 두 AI 팀이 딛고 선 무한 캐스케이드 기법을 개발했다. 버크마스터는 이 연구가 필즈상을 받을 만하다고 공개적으로 주장했다.