Anthropic은 10월 16일(현지시간) 자사 AI 모델 Claude가 사람의 개입을 최소화한 채 양자 알고리즘 회로 8종을 다시 설계해, 지금까지 발표된 최고 수준 설계보다 적은 자원으로 같은 계산을 하는 회로를 찾아냈다고 공식 연구 블로그에서 밝혔다. 타원곡선 연산의 핵심 단계에서는 게이트 수를 기존 최소 설계의 17분의 1로 줄인 회로도 나왔다.
핵심 정리
- Anthropic과 하버드대 연구진은 Claude가 화학·최적화·양자 시뮬레이션·정수론·수치 계산에 걸친 8개 과제에서 기존 최고 설계를 넘는 양자회로를 찾았다고 10월 15일 arXiv 논문으로 공개했다.
- 타원곡선 점 덧셈에 쓰이는 모듈러 역원 회로는 큐비트를 12% 더 쓰는 대신 게이트 수를 기존 최소 설계 대비 17배 줄였다.
- 최적화 알고리즘 DQI의 리드-솔로몬 복호기는 Google Quantum AI 설계보다 게이트 수가 약 12배 줄었고, 실제 양자 하드웨어에서 돌려 본 결과는 아직 없다.
Claude는 양자회로를 어떻게 설계했나
Claude는 평이한 문장으로 쓴 과제 명세와 자동 평가기를 받아 회로를 제안하고 고치는 폐쇄 루프 방식으로 일했다. Python으로 회로를 내면 평가기가 정답 여부와 점수를 돌려주고, Claude가 이를 보고 고치는 과정을 반복했다. 점수는 큐비트 수와 게이트 수를 곱한 값으로, 회로 실행 시간을 가늠하는 대리 지표다.
Anthropic 블로그에 따르면 이번 작업에 쓰인 모델은 Claude Mythos 5다. 점 덧셈 과제는 53시간 동안 진행됐고, 사람은 처음 과제를 설명하고 가끔 더 넓게 탐색하라고 주문한 정도였다.
연구는 Anthropic STEM 펠로 Andi Gu가 이끌었고 하버드대 Susanne Yelin·Mikhail Lukin 교수가 참여했다. 결과는 arXiv 논문으로 공개됐다.
게이트 17배 감소, 무엇이 달라졌나
게이트 17배 감소는 타원곡선 이산로그 문제의 점 덧셈에 필요한 모듈러 역원 회로에서 나왔다. Claude는 고전 알고리즘 divsteps를 양자회로로 옮기면서, 매 단계 어떤 연산을 골랐는지 따로 저장하지 않고 남은 숫자 쌍을 보고 거꾸로 알아내는 방법을 찾았다. 양자회로는 되돌릴 수 있어야 해서 보통 선택 기록을 큐비트에 모두 담아야 하는데, 이 부담을 덜어낸 것이다.
복원 규칙은 대규모 수치 시뮬레이션으로 검증한 뒤 정리 증명 언어 Lean으로 형식화했다. 저장과 복원의 비율을 바꾼 설계군 가운데 하나가 큐비트 12% 증가, 게이트 17배 감소 조합이다.
나머지 7개 과제에서는 Toffoli 게이트 수와 큐비트 수가 모두 기존 최고치보다 줄었다고 논문 초록은 밝혔다. 철-황 분자 시뮬레이션 과제에서는 분자의 대칭을 이용해 계산값을 재사용하는 방식을 찾았지만, 개선 폭은 공개되지 않았다.
DQI 복호기 12배 개선의 의미
DQI(Decoded Quantum Interferometry)는 최적화 문제에서 좋은 해가 측정될 확률을 높이는 양자 알고리즘으로, 초다항식 속도 향상 후보로 꼽힌다. Google Quantum AI 추정에 따르면 특정 다항식 교차 문제를 슈퍼컴퓨터 Frontier로 풀면 약 3개월, 미래 양자컴퓨터에서 DQI로 풀면 약 1시간이 걸리며, 그 1시간의 대부분이 리드-솔로몬 복호 단계다.
Claude가 다시 짠 복호기는 게이트 수를 약 12배 줄였다. 중간값을 저장하는 데 필요한 큐비트도 최악의 경우 665개에서 19개로 줄었다. 4억 300만 회 복호 시뮬레이션에서 실패는 약 1만 회에 1회로 허용 범위 안이었다.
AI 과학 연구 흐름 속 위치
Anthropic은 최근 Claude를 수학·과학 문제에 투입한 결과를 잇달아 내놓고 있다. 같은 주에는 Claude가 NIST 타원곡선 시드의 출처를 추적한 연구도 공개됐다. 이번 연구는 정답을 기계적으로 확인할 수 있는 분야에 AI 에이전트를 장시간 돌리는 방식의 사례다.
한계도 분명하다. 블로그에 따르면 초기의 Claude는 개선안을 거듭 의심하고 결과를 지나치게 재확인했으며, 잘 알려진 접근법을 선호했다. 모든 수치는 시뮬레이션과 자원 추정치이며 실제 양자 하드웨어에서 실행한 결과는 아니다.
양자컴퓨터 실용화에 미칠 영향은
연구진은 회로 설계가 쓸모 있는 양자컴퓨터를 이루는 여러 요소 중 하나일 뿐이라고 짚었다. 오류 정정, 복호기, 하드웨어 제어는 보통 따로 설계되는데, AI가 이들을 함께 최적화할 수 있다는 것이 연구진의 제안이다. 촉매 설계 같은 문제를 초기 내결함성 양자컴퓨터로 다룰 시점이 앞당겨질 수 있다는 것이다. 다만 공동 최적화를 실제로 수행한 결과는 이번 발표에 포함되지 않았다.
자주 묻는 질문
Claude가 설계한 양자회로는 실제 양자컴퓨터에서 검증됐나?
아니다. Anthropic이 공개한 수치는 모두 평가기 채점, 수치 시뮬레이션, 자원 추정치다. 일부 핵심 규칙은 Lean으로 형식 증명했지만 하드웨어 실행 결과는 발표에 없다.
게이트 17배 감소는 모든 과제에 해당하나?
아니다. 17배는 타원곡선 점 덧셈의 모듈러 역원 회로에서 큐비트를 12% 더 쓰는 설계의 수치다. DQI 복호기는 약 12배였고, 나머지 과제별 수치는 블로그·논문 그래프로 제시됐다.
이번 연구 논문은 어디서 볼 수 있나?
arXiv에 2610.22367번으로 10월 15일 제출됐다. 46쪽 분량이며 Andi Gu, Alek H. Kemeny, Susanne F. Yelin, Mikhail D. Lukin이 저자다.
