Salesforce와 Nvidia가 9월 15일 샌프란시스코에서 개막한 드림포스에서 Koa를 공개했다. Salesforce의 첫 추론 모델로, Nvidia의 오픈웨이트 모델 Nemotron 3 Super를 후속 학습해 만들었고 실행은 전부 Salesforce 자체 인프라 안에서 이뤄진다. Salesforce가 프런티어 연구소로부터 추론 능력을 빌려 쓰던 방식을 접고 직접 만든 첫 사례다.
핵심 요약
- Koa는 Nvidia Nemotron 3 Super를 기반으로, Salesforce가 27년간 축적한 CRM 구축 사례를 본떠 만든 합성 데이터로 후속 학습했다. 학습 데이터에 고객 데이터는 들어가지 않았다.
- Salesforce 자체 CRM 벤치마크에서 Koa는 CRM 작업 성능이 주요 모델과 대등하거나 그 이상이면서 오류는 3분의 1 수준이었다.
- 현재 1-800Accountant, Baxter Credit Union, Engine, Formula 1, UChicago Medicine, Xero가 파일럿으로 쓰고 있으며 정식 출시는 2026년 겨울 미국 리전부터다.
Salesforce가 추론을 빌려 쓰지 않기로 한 이유
Agentforce는 고객사가 케이스 분배나 일정 예약 같은 반복 업무용 AI 에이전트를 조립하는 플랫폼이다. 여기에는 이미 작고 용도가 정해진 모델 제품군이 올라가 있었다. 비어 있던 자리가 추론이었다. 에이전트가 장시간 이어지거나 여러 단계를 거치는 문제에 부딪히면 Agentforce의 모델 게이트웨이는 해당 프롬프트를 Claude나 ChatGPT로 넘겼다.
Salesforce의 AI 총괄 부사장 제이예시 고빈다라잔은 TechCrunch에 자체 엔터프라이즈급 추론 모델을 오래전부터 만들고 싶었지만 출발점으로 쓸 만한 기반이 없었다고 말했다. 그가 꼽은 Nemotron의 장점은 미국에서 호스팅되고, 최신 수준의 성능을 내면서, 무엇으로 학습했는지가 투명하다는 점이다. 그는 학습 데이터를 알 수 없다며 알리바바의 Qwen을 대비 사례로 직접 언급했다.
고객 데이터 없이 학습한 방법
Salesforce의 고객 기록은 한 건도 쓰지 않았다. 대신 제조, 금융 서비스, 의료, 여행 등 14개 넘는 산업을 아우르는 합성 시나리오를 생성했다. 각 시나리오는 지원 창구에 화를 내며 전화한 고객, 거래를 성사시키려는 영업 담당자 같은 페르소나와 과제를 짝지은 뒤, 에이전트가 그 과제를 끝내기까지 밟아야 할 동작과 도구 호출의 순서를 그대로 지정했다.
후속 학습은 지도 파인튜닝과 Group Relative Policy Optimization을 쓴 강화학습을 결합했고, Nvidia의 NeMo RL·NeMo Gym·NeMo AutoModel 스택 위에서 돌렸다. Salesforce는 과제 범위를 좁힌 것이 오류 격차를 만들어 냈다고 설명한다. 모델이 정답을 내놓는 법만이 아니라 목표에 이르는 동작을 순서대로 배열하는 법까지 익혔다는 것이다.
기업 고객에게 달라지는 것
내세우는 강점은 성능 자체가 아니라 통제권과 비용이다. Salesforce가 가중치를 쥐고 후속 학습과 추론을 모두 자사 신뢰 경계 안에서 수행하므로, 요청을 처리하는 동안 고객 데이터가 밖으로 나가지 않는다. Koa는 한정된 CRM 동작에 맞춰 조율된 모델이라 같은 작업을 범용 프런티어 모델로 넘길 때보다 토큰도 적게 쓴다.
Nvidia의 엔터프라이즈 생성형 AI 소프트웨어 부사장 카리 앤 브리스키는 Nemotron의 추론 아키텍처가 기업이 동시에 필요로 하는 조합, 즉 주권적 배포와 빠른 첫 토큰 응답, 효율적인 추론 비용 구조를 제공한다고 설명했다. 마크 베니오프는 더 직설적이었다. Salesforce의 가장 값진 자산은 플랫폼이 아니라 기업 비즈니스가 어떻게 돌아가는지에 대해 쌓아 온 지식이었고, Koa가 그 지식을 모델 안으로 옮겨 넣는다는 것이다.
같은 협력은 Salesforce의 공공 부문 조직 Missionforce로도 이어진다. 여기서는 Nemotron 기반 모델이 정부 조달, 공급업체 관리, 물류 업무를 위해 프라이빗 클라우드와 기밀 네트워크, 완전 망분리 시스템에 배치되고 있다.
전망
Salesforce가 연구소들과 관계를 끊는 것은 아니다. 며칠 앞서 Anthropic과 함께 Claudeforce를 발표해, 기록은 Salesforce 시스템에 남겨 둔 채 Claude를 인터페이스로 쓸 수 있게 했다. Koa는 게이트웨이의 또 하나의 선택지로 자리 잡을 뿐 게이트웨이를 대체하지는 않는다. 다만 방향만큼은 분명하다. Nvidia의 오픈 모델이 기업 에이전트 스택 아래에 계속 깔리는 흐름과도 맞아떨어진다. 에이전트 비용을 낮추려고 내놓은 30B Nemotron과 라우터 조합이 같은 예다. Koa의 정식 출시는 2026년 겨울이고, Missionforce Operations는 이미 정식 제공 중이며 후속 학습된 Nvidia 모델은 10월부터 일부 고객에게 열린다.
자주 묻는 질문
Koa는 오픈소스인가?
아니다. Koa는 Nvidia의 오픈웨이트 모델 Nemotron 3 Super를 기반으로 만들었지만, 후속 학습 결과물은 공개되지 않는다. Salesforce가 가중치를 통제하고 학습과 추론을 모두 자사 인프라에서 돌리며, 고객은 모델을 내려받는 대신 Agentforce를 통해 쓴다.
Koa 학습에 Salesforce 고객 데이터가 쓰였나?
Salesforce는 쓰이지 않았다고 밝혔다. 학습 말뭉치는 산업별로 CRM 업무가 실제로 전개되는 방식을 본뜬 합성 시나리오만으로 구성했다. 회사는 이 점을 Koa가 한 고객의 데이터를 다른 고객에게 흘릴 수 없는 이유로 제시한다.
Koa는 언제부터 쓸 수 있나?
1-800Accountant, Baxter Credit Union, Engine, Formula 1, UChicago Medicine, Xero 등 선정된 파일럿 고객은 이미 Agentforce 안에서 쓰고 있다. 정식 출시는 2026년 겨울 미국 리전에서 이뤄질 예정이다.
