🇺🇸 English 🇰🇷 한국어 🇯🇵 日本語
홈 › 개발자 도구
개발자 도구

엔비디아·AMD·인텔, 오픈소스 추론엔진 SGLang 연합 결성

LMSYS Org가 11월 12일 엔비디아·AMD·인텔·구글·메타·클라우드플레어·Modal·RadixArk를 창립 회원으로 SGLang 컨소시엄을 출범했다. 회원사는 연 2회 로드맵 회의에 참여하지만 코드 결정권은 메인테이너가 유지한다.

경쟁사인 엔비디아·AMD·인텔이 구글·메타·클라우드플레어·Modal·RadixArk와 함께 오픈소스 AI 추론 엔진 SGLang의 컨소시엄에 창립 회원으로 참여했다. SGLang을 운영하는 비영리 단체 LMSYS Org는 11월 12일(현지시간) 미국 샌프란시스코에서 열린 첫 SGLang 서밋에서 'SGLang 컨소시엄' 출범을 발표했다.

핵심 정리

  • 창립 회원은 엔비디아, AMD, 인텔, 구글, 메타, 클라우드플레어, Modal, RadixArk 등 8곳이다.
  • 회원사는 기술 대표를 두고 연 2회 로드맵 회의에 참여하되, 기술 결정과 코드 채택은 메인테이너가 맡는다.
  • 성능 수치나 가격 인하, 비용 절감 추정치는 발표되지 않았다. 협력 틀을 만든 단계다.
데이터센터 통로 양쪽에 서버 랙과 케이블이 줄지어 늘어선 모습
데이터센터의 서버 랙(자료사진) · 사진: kewl / Flickr(CC BY 2.0)

SGLang 컨소시엄이란

SGLang은 대규모 언어 모델과 멀티모달 모델을 실제 서비스에서 돌리는 오픈소스 추론 엔진이다. 요청을 배분하고 GPU 메모리를 관리하며 모델을 빠르고 싸게 실행한다.

LMSYS는 발표문에서 컨소시엄이 회원사와 메인테이너가 공동 우선순위를 공동 개발로 옮기는 상설 논의 자리라고 설명했다. 중점 분야는 프런티어 모델 지원, 추론·멀티모달 작업, 분산 추론, 하드웨어 최적화다.

운영 방식…코드 결정권은 메인테이너에

회원사는 엔지니어링 전문성, 배포 피드백, 테스트 자원, 공동 개발로 기여한다. 회의 사이에는 실무 그룹이 협업하고, LMSYS는 진행 상황을 공개하겠다고 밝혔다.

LMSYS는 "SGLang 메인테이너가 기술 결정과 코드 채택에 대한 책임을 유지하며, 프로젝트는 커뮤니티 전체에 열려 있다"고 밝혔다.

엔비디아·AMD·인텔이 함께 들어간 이유

LMSYS는 딜로이트 추정을 인용해 2026년 전체 AI 연산에서 추론이 차지하는 비중이 약 3분의 2로, 2025년 약 절반에서 늘어날 것이라고 소개했다. 추론 엔진이 각 회사 칩의 실제 성능을 좌우한다.

엔비디아의 이언 벅 하이퍼스케일·HPC 부문 부사장은 "더 나은 소프트웨어는 개발자가 엔비디아 컴퓨팅에서 더 많은 성능을 얻도록 돕는다"고 말했다. AMD의 라민 로안 AI 애플리케이션 담당 수석부사장은 SGLang이 "AMD Instinct GPU를 포함한 여러 하드웨어에서 돌아간다"고 했다.

SGLang 원 논문 공동 저자이자 RadixArk 공동 창업자 겸 CEO인 잉 성은 "새 데이터센터를 짓기 어려운 상황에서 AI 효율을 높이는 소프트웨어 접근이 매우 중요해질 것"이라고 말했다.

SGLang 규모는 어느 정도인가

SGLang 공식 문서에 따르면 이 엔진은 전 세계 40만 개가 넘는 GPU에서 하루 수조 개의 토큰을 생성한다. LMSYS는 메타·마이크로소프트·구글·아마존·Thinking Machines Lab·클라우드플레어·Reflection·Modal을 사용 기업으로 꼽았다.

지원 하드웨어는 엔비디아·AMD GPU, 인텔 제온 프로세서, 구글 TPU, 화웨이 Ascend NPU, 무어스레드 가속기 등이다. 가장 최근 정식 릴리스인 v0.5.21(10월 2일)에는 기여자 227명의 풀 리퀘스트 779건이 담겼고, 라이선스는 Apache 2.0이다.

맥락: 오픈 추론 엔진 경쟁

SGLang은 vLLM과 경쟁하고 있다. 클라우드 업체도 자사 칩의 소프트웨어 장벽을 낮추려 하는데, 아마존 AWS는 Trainium을 PyTorch 표준 장치로 쓰게 하는 TorchNeuron을 공개했다. 컨소시엄은 SGLang에 칩 업체와의 공식 창구를 만들어 준다.

전망

첫 신호는 LMSYS가 약속한 로드맵 공개 업데이트다. AMD·인텔·구글의 최적화가 엔비디아 지원과 같은 속도로 릴리스에 반영되는지가 관전 포인트다. 기존 사용자에게 당장 달라지는 것은 없다.

자주 묻는 질문

회원 기업이 이제 SGLang을 통제하나?
아니다. 기술 결정과 코드 병합은 메인테이너가 정한다.

SGLang은 계속 무료로 쓸 수 있나?
그렇다. Apache 2.0 라이선스 오픈소스로 유지된다.

컨소시엄이 속도 향상이나 가격 인하를 발표했나?
아니다. 관련 수치는 없었다.

참고 자료

#SGLang #SGLang 컨소시엄 #LMSYS #AI 추론 #추론 엔진 #엔비디아 #AMD #인텔 #RadixArk #오픈소스
정
정승
AI Newsway · 개발자

AI Newsway의 편집 책임자이자 개발자입니다. 인공지능·개발 도구·클라우드·생산성 기술 기사를 씁니다.

기자의 다른 기사 ›
저작권자 © AI Newsway 무단전재 및 재배포, AI학습 및 활용 금지
공유
f X K

댓글 0

현재 댓글 작성이 비활성화되어 있습니다.

첫 댓글을 남겨보세요.