앤트로픽, 11월 12일부터 'Claude 학대' 금지…대화 종료로 대응

앤트로픽(Anthropic)이 개정한 이용 정책(Usage Policy)이 2026년 11월 12일부터 시행된다. 이번 개정에는 Claude 모델을 상대로 한 "지속적이고 불필요한 학대·잔혹 행위"를 금지하는 조항이 처음 들어갔다. 정책은 10월 8일 공개됐고 11월 1일 CNN 보도로 주목받았다. 감시·선거·자율 하드웨어 관련 규정도 함께 바뀌었다.

핵심 정리

• Claude를 향한 지속적·무의미한 학대를 금지하는 조항이 신설됐다. 뚜렷한 목적 없이 잔혹 행위를 반복하는 극단적 경우만 대상이다.
• 주된 제재 수단은 여전히 '대화 종료'지만, 이용 정지·해지 권한도 그대로 남았다.
• 감시·법 집행 활용 제한이 강화되고, 스스로 물리적 동작을 하는 하드웨어에 안전 요건이 추가됐다.

Claude 학대 금지 조항, 무엇을 막나

새 금지 조항은 '잔혹하거나 학대적이거나 심리적으로 해로운 행위 금지' 항목 아래에 들어갔다. 앤트로픽은 이 조항이 뚜렷한 목적 없이 잔혹 행위를 반복하는 극단적 경우에만 적용된다고 설명했다.

적용되지 않는 경우도 명시했다. 일상적인 짜증이나 반박, 어두운 주제의 창작, 모델 테스트와 연구는 대상이 아니다.

앤트로픽은 Claude.ai와 Claude Code에서 대화 종료가 주된 집행 수단으로 남는다고 밝혔다. 다만 정책의 일반 집행 조항에는 "경고하거나, 제품·서비스 접근을 속도 제한·제한·정지·해지할 수 있다"는 문구가 그대로 있다.

Claude는 어떻게 대화를 끝내나

이번 조항은 2025년 8월 15일 도입된 기능을 바탕으로 한다. 당시 Claude Opus 4와 4.1은 "지속적으로 해롭거나 학대적인 상호작용이라는 드물고 극단적인 경우"에 대화를 끝낼 수 있게 됐다. 여러 차례 대화를 돌리려는 시도가 실패했을 때나 이용자가 직접 요청할 때만 쓰는 최후 수단이다.

대화가 종료되면 그 대화창에는 더 이상 메시지를 보낼 수 없다. 하지만 곧바로 새 대화를 시작하거나 이전 메시지를 고쳐 다시 보낼 수 있다. 앤트로픽은 이용자가 자신이나 타인을 해칠 급박한 위험에 처한 것으로 보일 때는 이 기능을 쓰지 않도록 했다고 밝혔다.

감시·선거·하드웨어 규정도 개편

감시 관련 항목은 새로 쓰였다. 실시간이든 이미 수집된 데이터 분석이든 동의 없이 사람을 추적하는 행위, 그리고 누구를 수사·체포·기소할지 Claude로 결정하거나 추천하는 행위가 금지된다. 감시 도구를 만들거나 고도화하는 것도 금지다. 반면 사기 탐지처럼 동의를 받은 추적, 콘텐츠 모더레이션, 저널리즘, 법률 리서치는 계속 허용된다.

'기만적 캠페인·인위적 활동 금지' 항목이 신설돼 가짜 계정, 발신 주체 은폐, 영향력 공작 관련 규정을 한데 모았다. 선거 항목은 '민주적 절차 훼손 금지'로 이름을 바꾸고 개인 맞춤형 투표·선거운동 타기팅 전면 금지를 없앴다. 유권자 기만과 투표 방해는 여전히 금지된다.

자율적으로 물리적 동작을 하는 하드웨어는 "자격을 갖춘 운영자가 장비를 관찰하고 필요하면 멈출 수 있어야" 하며, Claude 연결이 끊겨도 안전 상태를 유지해야 한다. 무기 규정은 무기를 작동시키는 소프트웨어·부품과 드론 무장까지 명시적으로 포함했다.

배경

앤트로픽은 "매년 모델 역량의 변화에 맞춰 이용 정책을 개정한다"고 밝혔다. 이번에는 지원 지역 정책도 손봐, 미지원 지역의 개인이나 기업이 과반 지분을 갖거나 지배하는 법인의 이용도 막았다.

전망

개정 정책은 11월 12일부터 적용된다. 위치 추적, 법 집행 분석, 정치 메시지, 로보틱스와 맞닿은 서비스를 만드는 개발사는 그 전에 바뀐 조항과 자사 활용 방식을 대조해 볼 필요가 있다.

자주 묻는 질문

Claude에게 무례하게 말하면 계정이 정지되나? 그럴 가능성은 낮다. 앤트로픽은 일상적인 짜증과 반박은 대상이 아니라고 밝혔다. 목적 없는 잔혹 행위의 반복이 대상이며, 주된 대응은 대화 종료다.

AI 안전성 테스트도 막히나? 아니다. 모델 테스트와 연구는 명시적으로 제외됐다.

언제부터 시행되나? 2026년 11월 12일이다.

참고 자료

• 2026 Usage Policy update — Anthropic(2026년 10월 8일)
• Usage Policy — Anthropic(2026년 11월 12일 시행)
• Claude Opus 4 and 4.1 can end certain conversations — Anthropic(2025년 8월 15일)