llama.cpp 1.0 출시…3년 반 만에 '안정 API' 약속

로컬 AI 소프트웨어의 상당수가 기반으로 쓰는 오픈소스 추론 엔진 llama.cpp가 11월 13일 1.0.0 버전에 도달했다. 그 밑에서 연산을 맡는 텐서 라이브러리 ggml도 같은 날 1.0.0을 냈다. 허깅페이스의 ggml-org 팀은 프로젝트 시작 약 3년 반 만의 이번 이정표와 함께, 앞으로 공개 인터페이스를 깨는 변경은 메이저 버전을 올려 알리겠다고 약속했다.

핵심 정리

• libllama와 libggml 두 라이브러리가 v1.0.0부터 시맨틱 버저닝을 도입해, 버전 번호만 보고도 업데이트가 기존 코드를 깨뜨릴지 판단할 수 있게 됐다.
• 폐기 예정이던 함수 35개를 제거하고 FP8 KV 캐시, MoE 모델용 호스트 메모리 캐시, 신규 모델 지원을 더했다.
• llama.cpp는 150개가 넘는 아키텍처 변형을 지원하며, 도커부터 윈겟까지 8개 배포 경로로 제공된다.

llama.cpp 1.0, 개발자에게 무엇을 약속했나

llama.cpp는 그동안 빌드 번호 중심으로 버전을 매겨 왔고, 직전 번호 릴리스는 llama.cpp v0.9.0과 ggml v0.29.0이었다. 팀은 발표문에서 "많은 다운스트림 애플리케이션이 이미 우리 작업에 의존하고 있다"며 "유연하면서도 안정적인 API가 무엇보다 중요하다"고 밝혔다.

팀은 두 라이브러리 모두 API·ABI 비호환을 이 방식으로 반영하고, 사용처가 늘수록 이런 경계를 "더 엄격하게" 드러내겠다고 했다.

v1.0.0 릴리스 노트에서 달라진 점

llama.cpp 릴리스 노트를 보면 안정성 약속에 앞서 정리 작업부터 했다. 풀 리퀘스트 30565는 llama_set_warmup과 폐기 예정 함수 35개, defrag_thold 옵션을 없애고, NextN 추측 디코딩 API를 주 헤더인 llama.h로 옮겼다.

새 기능으로는 FP8 KV 캐시, CPU 분담 비율을 조절할 수 있는 MoE(전문가 혼합) 모델용 호스트 메모리 전문가 캐시가 들어갔다. 텍스트 모델 Kimi-K3.1-Pro, Ripple-65B-Preview, xing4_0과 음성합성 모델 drama-3, 비전 모델 2종도 새로 지원한다.

내장 서버 llama-server는 CORS, DNS 리바인딩, 서버 측 요청 위조(SSRF) 관련 보안을 손봤고, 클라이언트 연결이 끊기면 MCP 도구 호출을 취소한다. 오픈AI 호환 /v1/audio/speech 엔드포인트도 추가됐다.

ggml 1.0.0 노트에는 FP8 지원, YaRN 절삭 설정, 애플 Metal에서의 DeepSeek-V4·V4.1 MoE 라우팅 융합 등이 담겼다.

안정 버전이 로컬 AI에 갖는 의미

프로젝트 측에 따르면 llama.cpp는 150개가 넘는 아키텍처 변형과 주요 추측 디코딩 방식을 모두 지원한다. CI는 엔비디아·AMD·퀄컴·Arm·IBM·인텔의 하드웨어 지원을 받은 자체 호스팅 장비에서 돈다.

배포는 5개 운영체제용 사전 배포 파일과 도커, 데비안, 홈브루, conda-forge, 맥포츠, 윈겟, XCFramework로 이뤄진다.

전망

진짜 시험대는 다음번 호환성 파괴 변경이다. 팀이 규칙을 지킨다면 공개 C API에서 무언가를 빼는 일은 평범한 업데이트가 아니라 v2.0.0으로 나와야 한다. llama.cpp를 링크해 쓰는 개발자라면 먼저 풀 리퀘스트 30565에서 삭제된 함수부터 확인하는 게 좋다.

자주 묻는 질문

llama.cpp는 AI 모델인가?
아니다. 주로 GGUF 형식 모델을 내 컴퓨터에서 돌려 주는 추론 엔진이다.

1.0.0으로 올리려면 코드를 고쳐야 하나?
llama_set_warmup 등 풀 리퀘스트 30565에서 삭제된 함수를 쓰는 경우에만 수정이 필요하다.

참고 자료

• llama.cpp v1.0.0 : A stronger foundation for the local AI ecosystem — 허깅페이스(2026년 11월 13일)
• Release v1.0.0 · ggml-org/llama.cpp — 깃허브(2026년 11월 13일)
• Release v1.0.0 · ggml-org/ggml — 깃허브(2026년 11월 13일)