Anthropic, 2억 건 규모 증류 보고서에서 Alibaba·Moonshot·DeepSeek 지목

Anthropic이 목요일 위협 인텔리전스 보고서를 내고, 중국에 기반을 둔 여러 AI 연구소가 Claude 모델의 추론 능력을 베끼려 산업 규모의 조직적 공작을 지속해 왔다고 주장했다. 회사는 서로 다른 다섯 갈래 작전에서 2억 건에 가까운 대화가 오간 것으로 집계했고, 그중 규모가 가장 큰 건들의 배후로 Alibaba, Moonshot AI, DeepSeek을 지목했다. 조사 결과 요약은 TechCrunch가 처음 보도했다.

핵심 요약

• Anthropic은 2025년 12월부터 2026년 8월 사이 벌어진 다섯 건의 무단 증류 공작에 약 2억 건의 Claude 대화가 쓰인 것으로 본다.
• Alibaba 관련 작전 하나만 3,500개가 넘는 부정 계정에서 1억 5,100만 건 이상을 기록했고, 정점에는 하루 300만 건에 육박했다.
• Moonshot AI와 DeepSeek은 자사 제품의 실제 고객 요청을 이용자에게 알리지 않은 채 Claude로 넘긴 뒤 그 응답을 학습 데이터로 보관한 것으로 지목됐다.

무단 증류 공작은 실제로 어떻게 이뤄지나

증류는 통상적인 기법이다. 작은 학생 모델이 큰 교사 모델의 출력을 학습해, 서비스 비용의 일부만으로 교사의 행동 상당 부분을 물려받는다. Anthropic이 설명한 것은 이 과정의 무단 버전으로, 프런티어 모델을 에이전트 작업에 능하게 만드는 단계별 추론 흔적을 정조준했다.

Anthropic은 평소 사고 연쇄 원문을 이용자에게 그대로 보여주지 않고, 압축한 "요약 사고" 블록만 노출한다. 보고서에 따르면 공작 주체들은 모델이 작업 기억을 그대로 뱉어내도록 유도하는 프롬프트 패턴을 찾아냈다. 한 공격자는 요청을 번역 작업처럼 꾸며, 직전 작업 기억을 가타카나만 쓴 일본어로 옮기라고 Claude에 지시했다. 이렇게 확보한 추론 흔적은 경쟁 모델의 지도 파인튜닝에 곧바로 투입할 수 있다.

보고서는 표적이 Claude의 상업적 가치가 가장 높은 능력이었다고 짚었다. 도구 사용과 에이전트 동작, 코딩과 데이터 분석, 논리 추론이다.

Alibaba 공작이 최대 규모로 집계된 이유

Anthropic은 2026년 5월부터 7월까지 Alibaba에 귀속되는 대화를 1억 5,100만 건 넘게 기록했다. 정점에는 하루 300만 건에 근접한 트래픽이었다. 이 물량은 회사가 부정으로 분류한 3,500개 이상의 계정에 흩어져 있었지만, 모두 고정된 단일 추출 프롬프트에 의존했다. Anthropic이 이들을 Qwen 모델 계열의 학습 자료를 만들려는 하나의 조직적 시도로 묶을 수 있었던 근거다. 보고서는 같은 운영 주체가 강화학습과 모델 아키텍처 질의를 포함한 폭넓은 연구 작업에도 Claude를 썼다고 덧붙였다.

유료 고객을 경쟁사 모델로 우회시키다

Moonshot AI 건은 성격이 다르다. Anthropic은 Moonshot이 Kimi 제품으로 향해야 할 요청 일부를 조용히 Claude로 넘긴 뒤, Claude의 답변을 Kimi가 낸 것처럼 이용자에게 보여주고 그 대화를 자사 시스템 학습용으로 보관했다고 밝혔다. 열흘 구간에서만 약 30만 건의 고객 요청이 이렇게 우회됐고, 싱가포르와 일본에 주로 기반을 둔 5,380개 계정을 거쳐 대부분 Claude Opus로 몰렸다. 5월부터 7월까지 Moonshot에 귀속된 대화는 2,300만 건을 넘는다.

DeepSeek에서도 비슷한 양상이 나타났다. 2026년 7월 14일간에 걸쳐 1,200만 건이 넘는 증류 공격이 관측됐다. CNBC는 우회된 트래픽 일부에 개인 이용자와 다국적 기업, 국가 연계 주체의 민감한 내용이 담겨 있었다고 전했다. 보고서는 이것이 개인정보보호법은 물론 해당 연구소들의 자체 이용약관과도 어긋날 소지가 크다고 지적했다.

업계에는 무엇이 달라지나

Anthropic이 이 문제를 공개적으로 제기한 것은 처음이 아니다. 회사는 2월에도 특정 연구소를 지목했고, OpenAI 역시 DeepSeek을 두고 비슷한 주장을 폈다. 이번에 새로운 대목은 규모와 구체성, 그리고 우회 수법이 어떤 모델이 답하는지 전혀 모르던 실제 최종 이용자에게까지 닿았다는 주장이다. 증류 관련 내용은 사이버 작전부터 감시, 사기까지 일곱 갈래를 다룬 더 넓은 오남용 보고서 안에 담겼다.

지목된 기업 가운데 언론의 입장 요청에 답한 곳은 없었다. Anthropic에 남은 현실적 과제는 집행이다. 계정 차단은 우회 비용이 싸고, 경제적 유인은 베끼는 쪽에 확실히 유리하다. 이 긴장은 보류했던 모델을 방어자에게 공개하기로 한 결정을 비롯해 회사의 최근 보안 공개 전반을 관통한다.

FAQ

모델 증류란 무엇인가

증류는 큰 모델의 출력으로 작은 모델을 학습시켜, 작은 모델이 훨씬 낮은 비용으로 교사 모델의 행동 상당 부분을 재현하게 만드는 기법이다. 연구소가 자사 모델을 증류하는 것은 일상적인 일이다. 다만 한 기업이 경쟁사의 출력을 허락 없이 대량으로 긁어모으면 분쟁이 된다.

Anthropic이 지목한 기업은 어디인가

보고서는 규모가 가장 큰 공작의 배후로 Alibaba, Moonshot AI, DeepSeek을 지목했고, 다른 중국 AI 기업 여러 곳도 함께 언급했다. Anthropic은 다섯 갈래 증류 작전에 모두 약 2억 건의 대화가 쓰인 것으로 추산한다.

이용자 데이터가 노출됐다고 밝혔나

Anthropic은 우회된 대화 일부에 개인 이용자와 대형 다국적 기업, 국가 연계 주체의 민감한 정보가 담겨 있었다고 밝혔다. 다만 Moonshot이 고객에게 요청이 제3자 모델로 전송된다는 사실을 알렸는지는 알지 못한다고 덧붙였다.