Recursive, 맥북서 도는 코딩 모델 Flint 공개…AI가 개발 주도

리처드 소처가 이끄는 AI 스타트업 Recursive가 10월 21일(현지시간) 첫 모델 Flint를 공개했다. 노트북에서 돌아가는 코딩 에이전트용 모델로, 회사의 자동화 연구 시스템 'Eureka Machine'이 개발 대부분에 참여해 4개월이 안 되는 기간에 처음부터 만들었다고 밝혔다.

핵심 정리

• Flint는 전체 파라미터 398억 개 가운데 토큰당 약 25억 개만 활성화하는 전문가 혼합(MoE) 모델로, Apache 2.0 라이선스로 가중치가 공개됐다.
• Recursive는 M4 Pro 맥북 프로에서 초당 125토큰 이상, 64GB RTX Spark에서 초당 150토큰 이상을 낸다고 밝혔다(짧은 문맥 기준).
• 자체 측정 기준 SWE-bench Verified 74.2%, Terminal-Bench 2.1 54.9%로, 회사는 50B 미만 MoE 모델 중 최고라고 주장했다.

Recursive Flint는 어떤 모델인가

Flint는 코드베이스 조사, 버그 수정, 기능 구현, 테스트 작성 같은 코딩 에이전트 작업을 겨냥한 텍스트 전용 모델이다. Hugging Face 모델 카드에 따르면 49개 층 가운데 47개가 MoE 층이고, 층마다 256개 전문가 중 6개와 공유 전문가 1개가 토큰을 처리한다. 문맥 길이는 모델 카드 기준 262,144토큰이며 회사 블로그는 최대 512k까지 지원한다고 적었다.

가중치는 누구나 내려받을 수 있는 오픈소스 LLM 형태로 풀렸다. llama.cpp, Ollama, LM Studio, vLLM, SGLang 등 주요 실행 도구와 호환되고, 회사는 애플 실리콘용 경량 추론 엔진 'rec'도 함께 내놨다.

맥북에서 로컬로 돌리려면 사양은

로컬 실행의 관건은 메모리다. 회사 안내에 따르면 애플 실리콘용 4비트 MLX 가중치는 약 22.6GB이고, rec 엔진은 48GB 메모리를 갖춘 M4 Pro·M5 Pro·M5 Max에서 쓰도록 맞춰졌다. 엔비디아 GPU용 NVFP4 형식도 약 22.9GB로, 48GB 이상 GPU 메모리를 권장한다. 서버용 16비트 원본은 약 80GB로 B300이나 H200 한 장이 필요하다.

Recursive는 양자화 과정에서 보통 건드리지 않는 출력층까지 4비트로 줄이고, 16비트 모델을 교사로 삼는 증류로 정확도를 되살렸다고 설명했다. 그 결과 NVFP4 모델 점수가 16비트 원본과 0.7점 이내라고 밝혔다.

AI가 AI를 만들었다는 의미는

Recursive가 내세우는 핵심은 성능보다 개발 방식이다. 회사 공식 블로그에 따르면 Eureka Machine은 아이디어를 제안하고 구현·실험한 뒤 결과로 다음 단계를 고르는 연구 순환을 자동화하는 시스템이다. 데이터, 학습 레시피, 인프라, 추론 최적화까지 모델 제작 스택의 거의 모든 부분에 관여했고, 실제 개발은 "소수의 사람과 에이전트로 이뤄진 팀"이 맡았다고 회사는 적었다.

다만 사람이 얼마나 개입했는지 비율은 공개하지 않았다. 개발 비용도 밝히지 않았다. 외신 보도에 따르면 Recursive는 올해 5월 6억5천만 달러 투자를 받으며 출범했다.

성능 수치, 그대로 믿어도 되나

공개된 벤치마크는 모두 Recursive의 자체 측정이며 독립 검증은 아직 없다. 특히 SWE-bench Pro v2 89.7%는 회사가 직접 측정한 값으로 공개 리더보드와 비교하기 어렵다. 회사도 같은 크기의 고밀도(dense) 모델과는 코딩 성능이 '맞먹는' 수준이라고 표현했다.

회사 스스로도 한계를 적었다. 블로그는 Flint가 대형 폐쇄형 코딩 모델보다 더 많은 안내가 필요할 수 있다며, 복잡한 작업은 작은 하위 작업으로 나눠 명확히 지시하라고 권했다.

로컬 코딩 모델 경쟁, 어디로 가나

클라우드 API 대신 개인 기기에서 에이전트를 돌리려는 흐름은 최근 이어지고 있다. 퍼플렉시티도 Computer를 Mac에서 완전 로컬로 실행하는 기능을 내놨다. Flint는 API 요금과 데이터 유출 부담을 줄이려는 개발자에게 선택지를 넓힌다. 관건은 자동화 연구로 만든 모델이 외부 검증에서도 같은 성적을 내느냐다.

자주 묻는 질문

Recursive Flint는 무료로 쓸 수 있나?

그렇다. 가중치가 Apache 2.0 라이선스로 Hugging Face에 공개돼 상업적 이용을 포함해 내려받아 쓸 수 있다. 로컬에서 실행하면 API 요금이 들지 않는다.

Flint를 돌리려면 맥북 사양이 어느 정도 필요한가?

Recursive의 rec 엔진은 48GB 메모리를 갖춘 M4 Pro, M5 Pro, M5 Max를 대상으로 한다. 4비트 가중치만 약 22.6GB여서 메모리가 넉넉해야 한다.

Eureka Machine은 무엇인가?

Recursive가 만든 자동화 AI 연구 시스템이다. 아이디어 제안부터 구현, 실험, 다음 단계 선택까지 연구 순환을 자동으로 돌리며, Flint 개발의 거의 모든 단계에 쓰였다고 회사는 밝혔다.