시카고대 수학과장 "수학은 변했다"…모든 논문 AI 활용 전제로

미국 시카고대 수학과 학과장 프랭크 칼레가리 교수가 11월 1일 모든 연구를 AI의 도움을 받은 것으로 보고 평가해야 한다는 글을 내놨다. 수학자 테런스 타오의 블로그에 실린 기고문 '수학은 변했다. 그에 맞게 행동하자'에서 그는 채용 대면 면접 강화, 학술지 기준 상향, AI가 낸 성과의 공동 소유를 제안했다.

핵심 정리

• 칼레가리는 오픈AI가 10월 6일 AI로 만든 논문 700여 편을 공개한 일을 "수학사의 분수령"이라고 평가하면서도, 상당수가 형편없이 쓰였고 일부는 틀렸다고 지적했다.
• 논문 평가 기준으로 "설득력 있는 이야기를 하는가, 린(Lean)으로 검증됐는가" 두 가지를 제시했다.
• 서류만으로는 누가 연구했는지 알기 어려워진 만큼 박사후연구원·대학원생도 대면 면접으로 뽑자고 했다.

칼레가리 "AI, 수학에 획기적 기여 가능"

칼레가리는 랭글랜즈 프로그램을 연구하는 대수적 정수론 학자다. 그는 글 첫머리에서 "AI는 이제 수학의 여러 분야에서 획기적인 기여를 할 수 있다는 것을 부인할 수 없다"고 썼다. 이어 "그런데 왜 일부 수학자들은 불만인가"라고 물었다.

그가 꼽은 이유 중 하나는 결과물이 나온 방식이다. 그는 오픈AI 논문들이 "훌륭한 아이디어가 일부 있음에도" "끔찍하게 쓰였고" "학계의 출처 표기 관행을 어겼다"고 비판했다. "일부는 심지어 틀렸다"고도 덧붙였다.

그는 확률론 학자 위고 뒤미닐코팽이 자신이 경력 내내 공개적으로 언급한 주요 난제 가운데 이번 공개에서 건드려지지 않은 것이 하나도 없었다고 말한 사실도 소개했다.

오픈AI 수학 논문 저장소 현황

오픈AI는 원고를 깃허브 공개 저장소에 올리고 있다. 11월 2일 기준 이 저장소에는 373개 묶음, 721편의 원고가 올라 있고, 핵심 결과의 약 42%가 증명 보조기 린으로 형식화됐다고 적혀 있다. 저장소 설명은 원고를 만든 주체를 이름을 밝히지 않은 오픈AI 내부 모델로 적었다.

채용·학술지·공로 인정 방식 바꿔야

칼레가리가 첫째로 내건 원칙은 모든 연구를 AI의 도움을 받은 것으로 보고 평가하라는 것이다. 그는 "채용 과정은 서류보다 사람 사이의 직접적인 만남에 훨씬 더 기대야 할 것"이라고 썼다.

학술지에는 더 높은 기준을 요구하고, 변하지 않는 학술지는 떠나자고 했다. 아카이브(arXiv)에 올라오는 논문 상당수는 어디에도 실릴 필요가 없다고도 했다. 유용성과 명료성을 중시하는 학술지의 본보기로는 '에센셜 넘버 시어리'를 들었다.

공로에 대해서는 "수학자 집단이 이 결과들에 대해 더 많은 주인의식을 가져야 한다"고 주장했다. 특정 기업이나 유명 인사가 아니라 인류가 쌓아 온 수학 유산의 성과로 보자는 것이다.

증명이 '값싸질' 때 생기는 일

그는 역사를 예로 들었다. 1903년 프랭크 넬슨 콜은 2^67 − 1을 193,707,721 × 761,838,257,287로 인수분해해 당시 큰 업적으로 평가받았다. 지금은 컴퓨터 대수 시스템이 1초도 안 걸려 해내므로 같은 결과의 가치는 훨씬 작다.

대니얼 고런스틴이 1972년 시작해 1983년 완성을 선언한 유한 단순군 분류도 언급했다. 그는 이 분류 이후 해당 분야의 관심이 식었다고 봤다. 그의 결론은 "가치 있는 문제를 고르는 일이 증명을 만드는 일보다 더 중요해질 수 있다"는 것이다.

전망

제안이 실현될지는 각 학과와 학술지의 수용에 달렸다. 칼레가리는 정년을 보장받은 연구자들에게 "선배 수학자로서 AI에 선수를 빼앗길까 봐 걱정한다면, 충분히 야심 차지 않은 것"이라고 말했다. 그는 "우리는 수학의 새 시대 문턱에 있고, 무슨 일이 벌어질지 기대된다"며 글을 맺었다.

자주 묻는 질문

프랭크 칼레가리는 누구인가?
시카고대 수학과 교수이자 학과장으로, 대수적 정수론을 연구한다.

린(Lean) 검증이란?
린은 증명을 한 단계씩 기계로 확인하는 증명 보조기다. 칼레가리는 설득력 있는 이야기인지와 함께 이를 논문 평가의 두 기준 중 하나로 꼽았다.

참고 자료

• Mathematics has changed. Let's act like it. — 프랭크 칼레가리, 테런스 타오 블로그 'What's new' 기고(2026년 11월 1일)
• openai/math — 깃허브(2026년 11월 2일 확인)
• Frank Calegari — 시카고대 수학과