🇺🇸 English 🇰🇷 한국어 🇯🇵 日本語
홈 › 테크 & 비즈니스
테크 & 비즈니스

레볼루트, GLM 자체 운영으로 AI 코딩비 10분의 1로

영국 디지털 은행 레볼루트가 즈푸AI의 오픈웨이트 모델 GLM을 B200 GPU 56장으로 자체 운영해 AI 코딩 청구액을 앤트로픽·오픈AI 시절의 10분의 1로 줄였다고 데이비드 아비톨 운영·인프라 총괄이 AI 엔지니어 뉴욕 2026에서 밝혔다.

영국 디지털 은행 레볼루트(Revolut)가 오픈웨이트 모델 GLM을 자체 GPU에서 직접 돌리면서 AI 코딩 비용을 앤트로픽·오픈AI에 내던 금액의 10분의 1로 줄였다. 데이비드 아비톨(David Abitbol) 레볼루트 운영·인프라 총괄은 10월 13일 'AI 엔지니어 뉴욕 2026' 콘퍼런스 발표에서 이 수치를 공개했고, 영국 IT 매체 더레지스터가 11월 3일 이를 보도했다.

고객 8,000만 명, 45개 시장에서 영업한다고 밝힌 레볼루트는 지금 엔지니어 약 2,000명에게 즈푸AI(Z.ai)의 GLM 5.3을 엔비디아 B200 GPU 56장으로 서비스한다. 아비톨 총괄이 밝힌 혼합 단가는 토큰 100만 개당 30센트다.

영국 런던에 있는 레볼루트 사옥 외벽 일부
영국 런던의 레볼루트 본사(자료사진). 사진: Alerove / 위키미디어 공용(CC0 1.0)

핵심 정리

  • 레볼루트는 B200 56장으로 GLM 5.3을 자체 운영해 엔지니어 약 2,000명에게 제공하며, AI 코딩 청구액은 과거 앤트로픽·오픈AI 지출의 10분의 1이다.
  • 같은 GPU 56장에서 튜닝만으로 초당 처리 요청을 약 3건에서 7건 이상으로 늘리고, 첫 토큰까지 걸리는 시간을 14.26초에서 1.68초로 줄였다.
  • 코딩 시간 60%, 리드타임 70% 개선을 보고했지만, 발표 측도 모델 교체 효과만 따로 떼어 본 수치는 아니라고 밝혔다.

레볼루트 GLM 자체 호스팅, 어떻게 했나

발표에 따르면 레볼루트는 먼저 제미나이를, 이어 예산 한도를 엄격히 건 클로드 코드를 도입했다가 4월 무렵 GLM 5.1 자체 호스팅으로 옮겼다. 즈푸AI의 허깅페이스 페이지는 GLM-5.1을 매개변수 7,540억 개, MIT 라이선스로 소개한다. 더레지스터는 토큰당 활성 매개변수가 약 400억 개라고 전했다.

출발점은 비용이었다. 더레지스터에 따르면 아비톨 총괄은 "AI 비용에 매우 회의적이었다. 엔지니어가 한 달에 1,000달러, 1만 달러를 쓰는데 투자 대비 효과는 크지 않았다"고 말했다. 정액 청구가 되자 엔지니어들이 디버깅 같은 일에도 토큰을 쓰게 됐다는 설명이다.

응답 속도 목표와 GPU 튜닝

목표는 첫 토큰 3초 이내, 초당 약 200토큰 생성이다. 아비톨 총괄은 "5초를 넘기는 순간 내 슬랙 메시지함이 터지기 시작한다"고 했다. 사용량이 줄어드는 오후 5시 이후에는 초당 800토큰에 가까운 속도가 나온다.

4월부터 8월 사이 같은 GPU 56장에서 초당 요청 처리량은 약 3건에서 7건 이상으로 늘었고, 첫 토큰 지연은 14.26초에서 1.68초로 짧아졌다. 그는 블랙웰 칩에서 FP4 양자화를 쓰고 캐시 적중률을 90% 이상으로 유지하라고 조언했다.

초대형 컨텍스트에도 선을 그었다. 그는 "긴 컨텍스트는 사기"라며 코딩 작업에는 약 25만6,000토큰이면 충분하다고 했다.

생산성 수치, 어디까지 믿을까

레볼루트는 GLM 5.1 도입 시기 엔지니어 표본에서 코딩 시간 60%, 리드타임 70% 개선을 측정했다. 앞서 제미나이를 도입했을 때는 각각 20%, 10%였다. 다만 콘퍼런스 페이지 요약은 이 사내 비교가 모델 교체 외 다른 요인을 분리하지 않았다고 밝혔다.

유럽연합 규제를 받는 은행인 만큼 코딩 에이전트는 승인 규칙이 걸린 샌드박스에서 돈다. 아비톨 총괄이 든 예는 'grep은 허용하되 gradle은 막는' 식이다. 데이터는 기본적으로 보관하지 않는다.

오픈웨이트 확산에 주는 의미

규제 산업의 대형 사용자가 오픈웨이트로 옮긴 사례다. 더레지스터는 중국 모델의 개인정보 우려가 주로 중국에서 운영되는 API를 쓸 때 해당하며, 가중치를 직접 내려받아 운영하는 경우와는 다르다고 짚었다.

전망

아비톨 총괄은 오픈소스가 이제 레볼루트의 우선순위이며 경제성도 유리하다고 말했다. 남은 관심사는 고정된 하드웨어에서 모델을 올리고 사용자를 늘려도 지금의 생산성 수치가 유지되느냐다.

자주 묻는 질문

레볼루트는 AI 코딩 비용을 얼마나 줄였나? 아비톨 총괄은 청구액이 앤트로픽·오픈AI에 쓰던 금액의 10분의 1이라고 밝혔다. 약 90% 절감이다.

어떤 장비를 쓰나? 엔비디아 B200 GPU 56장으로 엔지니어 약 2,000명에게 GLM 5.3을 제공한다.

참고 자료

#레볼루트 #GLM #즈푸AI #오픈웨이트 #자체 호스팅 #AI 코딩 비용 #클로드 코드 #엔비디아 B200
정
정승
AI Newsway · 개발자

AI Newsway의 편집 책임자이자 개발자입니다. 인공지능·개발 도구·클라우드·생산성 기술 기사를 씁니다.

기자의 다른 기사 ›
저작권자 © AI Newsway 무단전재 및 재배포, AI학습 및 활용 금지
공유
f X K

댓글 0

현재 댓글 작성이 비활성화되어 있습니다.

첫 댓글을 남겨보세요.