엔비디아 자체 공장 계획에서 30B 모델이 550B 모델을 앞질렀다

엔비디아와 팔란티어가 9월 10일 내놓은 공급망 발표에서 가장 흥미로운 수치는 금액도 고객 수도 아니다. 정확도 격차다. 부족한 부품을 어디로 보낼지 결정하는 업무에서, 엔비디아의 과거 결정을 학습한 300억 파라미터 모델은 86.7%를 기록했고 5500억 파라미터 범용 모델은 55.5%에 그쳤다.

핵심 요약

• 사후학습을 거친 네모트론 3.5 라이트닝(30B)은 엔비디아 자재 배분 업무에서 86.7%를 기록했다. 같은 업무에서 네모트론 3 울트라(550B)는 55.5%에 머물렀다.
• 엔비디아 엔지니어들은 같은 미세조정을 거친 뒤에도 생산 리스크 예측은 여전히 불안정했다며 주장의 범위를 스스로 못 박았다.
• 팔란티어 고객사는 자체 데이터로 같은 구조를 재현하면서 가중치와 데이터, 추론을 모두 자사 인프라 안에 둘 수 있다.

파라미터 수가 밀린 이유

두 모델의 크기 차이는 대략 18배다. 그래서 이 결과는 규모 확장에 반하는 근거처럼 읽힌다. 하지만 규모가 아니라 범위에 관한 이야기로 읽는 편이 정확하다. 엔비디아 솔루션 아키텍트 넬 바버, 라나 하버, 아스타 준준왈라는 자사 벤치마크에 이례적으로 솔직한 단서를 달았다. 우위는 사후학습을 진행한 단 하나의 도메인에 갇혀 있으며, 어느 생산 라인이 곧 문제를 일으킬지 예측하는 일은 그와 무관하게 여전히 어렵다는 것이다. 결국 미세조정은 의사결정 업무를 끌어올렸을 뿐, 바로 옆의 예측 업무는 거의 그대로 남겨뒀다.

이 비대칭이 배치 규모를 고민하는 쪽에는 실질적인 발견이다. 배분은 정답 기록이 사내에 길게 쌓여 있는 한정된 문제이고, 이는 특화가 보상을 받는 전형적인 형태다. 예측은 그렇지 않다.

스택은 어떻게 엮였나

네모트론은 이 시스템의 엔진이 아니라 가장 작은 부품이다. 기반은 팔란티어의 파운드리와 인공지능 플랫폼(AIP)이 맡고, 팔란티어 온톨로지가 부품과 공장, 여유 생산능력, 고객에게 이미 약속한 물량을 실시간 구조도로 관리한다. 부족한 공급을 서로 경쟁하는 수요에 쪼개 넣는 조합 최적화는 엔비디아 cuOpt 솔버가 처리한다.

언어 모델의 몫은 이 사슬의 끝에서 내리는 판단이다. 주변 상황을 읽고 행동을 제안하면 사람 기획자가 이를 받아들이거나 뒤집는다. 두 회사는 이 조합을 공급망 팀을 위한 단일 명령 화면으로 팔고 있고, 자재 배분은 제품 전체가 아니라 첫 적용 사례에 해당한다.

엔비디아가 자사를 실험대에 올린 이유

시가총액 5조 4000억 달러는 유난히 가혹한 시험 환경을 함께 가져온다. 수천 개 공급사와 전 세계 제조 거점이 부품을 밀어 넣고, 엔비디아는 랙에 들어가는 부품을 수백만 개 단위로 센다. 베라 루빈 한 대에만 약 130만 개다. 실패 방식은 잔인할 만큼 단순하다. 부품 하나가 없으면 조립이 멈추고, 제때 도착한 부품은 창고에서 가치가 깎인다.

엔비디아 창업자 겸 최고경영자 젠슨 황은 이 조율 부담이야말로 AI 인프라 구축의 진짜 병목이라고 짚었다. 그는 공급망을 실물 경제의 운영체제로, AI 팩토리를 지금까지 만들어진 가장 복잡한 시스템 축에 든다고 표현했다. 팔란티어 최고경영자 알렉스 카프는 예상대로 자신이 따낸 고객의 난도를 강조하며 엔비디아 공급망을 세계에서 가장 정교한 축이라고 평했다.

구매자가 실제로 할 수 있는 일

협력도 소버린이라는 구호도 이번에 시작된 것이 아니다. 엔비디아와 팔란티어는 지난해 10월 모델과 소프트웨어를 묶었고, 6월에 이를 통제된 환경 배치로 넓혔으며, 이제 점수가 붙은 레퍼런스 구성을 내놨다. 이 순서는 사업적으로 중요하다. 6월 발표가 기능이었다면 이번 발표는 숫자가 달린 사례다.

재현하려면 파운드리와 AIP를 통해 자사 운영 이력으로 네모트론을 학습시킨 뒤, 데이터를 얼마나 단단히 붙잡아야 하는지에 따라 온프레미스나 코로케이션 시설, 혹은 클라우드에 올리면 된다. 농업과 제조, 제약, 유통, 기술, 정부가 지목된 대상이고 이 스택은 팔란티어 AIPCon 11에서 한 차례 소개될 예정이다.

이런 이식성은 엔비디아가 가중치를, 네모트론 제품군 상당수에 대해서는 학습 레시피까지 공개했기에 성립한다. 엔비디아는 지난 1년간 바로 이 논리로 프런티어급 오픈 웨이트 모델을 옹호해 왔고, 9월 초에는 129억 달러를 들여 허깅페이스를 인수했다. 작은 오픈 모델이 이기는 공급망 사례는 그 입장을 뒷받침하는 가장 좋은 광고인 셈이다. 1차 출처는 양사 공동 보도자료이며, 벤치마크 세부는 더뉴스택 보도가 전했다.

FAQ

네모트론 3.5 라이트닝은 오픈소스인가

오픈 웨이트가 정확한 표현이다. 엔비디아는 가중치를 배포하고, 제품군 상당수는 학습 데이터와 레시피까지 함께 공개한다. 이것이 사적 미세조정을 가능하게 하는 조건이다. 다만 적용되는 약관은 OSI 승인 라이선스가 아니라 엔비디아 자체 모델 라이선스다.

이제 대형 모델을 쓰지 말아야 한다는 뜻인가

아니다. 86.7%라는 수치는 라벨이 충분히 쌓인 하나의 좁은 배분 업무에 국한된다. 엔비디아 자체 문서도 이 성과가 일반화되지 않는다고 적었다. 같은 프로젝트 안의 예측 업무는 동일한 처방에 반응하지 않았다.

여기서 말하는 소버린은 무슨 뜻인가

지리가 아니라 통제권을 가리킨다. 고객의 데이터와 모델 가중치, 추론이 모두 고객이 관할하는 인프라 안에 머문다는 의미다. 온프레미스 클러스터든 전용 코로케이션 공간이든 상관없다.