미국 뉴욕시 소비자노동자보호국(DCWP)이 10월 20일 AI 챗봇·자동응답(ARS) 고객센터가 소비자를 같은 메뉴와 엉뚱한 답변 속에 가두는 이른바 '둠 루프(doom loop)'를 기만적 영업 행위로 규정하는 규칙안을 공개했다. 기업은 상담 시작 때 AI임을 알리고 사람 상담원으로 한 번에 넘어가는 경로를 제공해야 하며, 어기면 첫 위반부터 525달러의 벌금을 내야 한다.
핵심 정리
- 뉴욕시 DCWP는 10월 20일 자동 고객응대 시스템 규칙안을 공개하고 11월 19일까지 의견을 받는다.
- 규칙안은 상담 시작 시 AI 고지, 버튼·음성 한 번으로 사람에게 연결되는 '단일 단계 전환' 수단과 예상 대기시간 안내를 요구한다.
- 벌금은 첫 위반 525달러, 두 번째 1,050달러, 세 번째부터 3,500달러이며 상담 기록은 3년간 보관해야 한다.
뉴욕시 AI 고객센터 규칙안, 무엇을 요구하나
뉴욕시 규칙안의 핵심은 AI 상담이 문제를 풀지 못할 때 소비자가 사람에게 쉽게 닿도록 하는 것이다. DCWP가 공개한 자동 고객응대 시스템 규칙안은 대화의 전부 또는 대부분을 기술이 처리하는 시스템을 규제 대상으로 정의했다. 웹 채팅 AI 비서뿐 아니라 전화 음성응답 시스템도 포함된다.
규칙안에 따르면 기업은 상담을 시작할 때 소비자가 쓰는 언어로 사람과 대화하는 것이 아니라는 점을 명확히 알려야 한다. 고객을 부적절한 메뉴로 반복해서 돌리거나 동문서답, 무관한 정보, 틀린 정보만 내놓는 행위는 기만적이고 비양심적인 영업 행위로 본다. 챗봇이 그럴듯하게 지어낸 환각 답변도 '틀린 정보' 범주에 들 수 있다.
규칙안은 '반증 가능한 추정' 방식을 택했다. 기업이 "0번을 누르세요"처럼 한 번의 조작으로 상담원 연결이나 대기열 진입이 되는 수단과 예상 대기시간을 안내하지 않으면 위반으로 추정한다. 상담원이 없거나 대기가 지나치게 길면 운영 시간이 적힌 전화번호, 라이브 채팅, 콜백 요청, 이메일 등 대안을 응답 기한과 함께 안내해야 한다.
벌금과 기록 보관 의무는 어느 정도인가
규칙안의 벌금표에 따르면 고객센터 허위 표시, AI 고지, 둠 루프 금지, 기록 보관 조항 위반은 첫 회 525달러, 두 번째 1,050달러, 세 번째부터 3,500달러다. 재위반 여부는 직전 위반 후 2년 안을 기준으로 따진다. 피해 소비자에게는 원상회복(배상)도 해야 하며, 뉴욕시장실 운영국의 규제 인증 문서는 시정 유예 기간이 없다고 명시했다.
기업은 상담 기록도 기계가 읽을 수 있는 형식으로 최소 3년간 보관해야 한다. 상담 시간, 상담원 전환 제안과 실제 이용 여부, AI 고지 기록, 72시간 안에 같은 고객이 다시 문의한 건수 같은 연간 집계가 포함된다. 시스템 공급 계약서와 사용 모델 정보도 보관 대상이다.
"AI가 한 일" 핑계도 막는다
규칙안은 기업이 특정 기술을 썼거나 그 기술이 잘못된 안내를 했다는 사실을 법 위반의 항변 사유로 인정하지 않는다는 조항도 담았다. DCWP는 근거 설명에서 일부 기업이 새 기술 탓을 하며 책임을 피하려 했다고 지적했다.
DCWP는 규칙안 근거로 가트너 조사를 인용해 챗봇의 문제 해결률이 청구 분쟁 17%, 반품·해지 58%에 그친다고 밝혔다. 또 캘리포니아·메인·뉴저지·유타가 이미 비슷한 AI 고지 법을 두고 있다고 설명했다. 미국 매체 세마포는 이번 규칙이 확정되면 뉴욕시가 챗봇 둠 루프에서 소비자를 보호하는 미국 첫 지방정부가 될 수 있다고 전했다. 고객 응대 AI의 책임 문제는 최근 WhatsApp 도움말에 숨겨진 AI 지시문 논란에서도 불거졌다.
뉴욕시 AI 상담 규칙 시행 일정과 전망
뉴욕시 규칙안은 11월 19일까지 서면 의견을 받고, 같은 날 오전 11시(미 동부시간) 온라인 공청회를 연다. 규칙안 문서에는 시행일이 적혀 있지 않다. 고객센터에 AI를 들인 기업은 확정 전까지 상담원 전환 버튼, 대기시간 안내, 기록 체계를 점검해야 할 것으로 보인다.
자주 묻는 질문
뉴욕시 AI 챗봇 둠 루프 규칙은 언제 시행되나?
아직 확정되지 않은 규칙안이다. 뉴욕시는 2026년 11월 19일까지 의견을 받고 같은 날 공청회를 연다. 규칙안 문서에는 시행일이 명시되지 않았다.
규칙을 어기면 벌금은 얼마인가?
첫 위반 525달러, 두 번째 1,050달러, 세 번째부터 3,500달러다. 피해 소비자에 대한 배상 의무도 따른다.
챗봇 고객센터 자체를 금지하는 것인가?
아니다. AI 상담은 계속 쓸 수 있다. 다만 AI임을 알리고, 문제를 풀지 못하면 사람 상담원이나 다른 연락 수단으로 쉽게 넘어갈 길을 열어 둬야 한다.
