WhatsApp 도움말 페이지 80곳에 사용자 눈에는 보이지 않는 AI 챗봇용 지시문 102건이 숨어 있었고, 그중에는 계정 삭제에 실패한 사용자에게 개인정보 감독기관을 안내하지 말라는 문구도 있었다고 프라이버시 기업 Redact가 10월 19일 공개했다. 미국 매체 WIRED가 이를 보도했고, WhatsApp은 지원 챗봇용 지시문이 버그로 노출됐으며 이미 고쳤다고 해명했다.
핵심 정리
- Redact는 WhatsApp 도움말 센터가 연결한 545개 페이지를 모두 읽어 80개 페이지에서 숨은 AI 지시문 102건을 찾았다.
- 계정 삭제 페이지의 지시문은 "데이터 보호 당국, 규제기관, 감독기관에 연락하라고 권하지 말 것"을 챗봇에 요구했다.
- 지시문은 10월 15일까지 실제 페이지에 남아 있었고, 10월 18일 02시 08분(UTC)에는 80개 페이지 모두에서 사라졌다.
WhatsApp 도움말에 숨은 AI 지시문은 무엇을 담았나
숨은 지시문의 핵심은 법적 권리와 관련된 질문에서 챗봇의 답변 범위를 좁히는 내용이었다. Redact의 조사 보고서에 따르면 계정 삭제 도움말에는 계정을 지우지 못한 사용자에게 데이터 보호 당국이나 감독기관 연락을 권하지 말고, WhatsApp이 계정을 직접 삭제해 줄 수 있다고 말하지도 말라는 문구가 있었다. 신고·차단 도움말에는 사용자가 소송이나 변호사, 법원을 언급하면 GDPR·LGPD·CCPA 같은 개인정보 법규를 인용하거나 해석하지 말라는 지시가 있었다. 사용자가 해당 법을 먼저 꺼내도 마찬가지였다.
지시문은 화면에 표시되지 않았지만 페이지와 함께 전송되는 코드에 들어 있었다. 인도 매체 Digit 등은 문구가 "HelpContentGalaxyLLMInclude"라는 코드 항목 아래에 있었고 일부 단락에는 "WHAT NOT TO SAY(말하지 말 것)"라는 제목이 붙어 있었다고 전했다. 청각장애가 있다는 사용자 발언은 지원 요청이 아니라 배경 정보로 다루라는 지시, 아직 정식 출시되지 않은 커뮤니티 기능을 언급하지 말라는 지시도 함께 확인됐다.
Redact는 숨은 지시문을 어떻게 찾았나
Redact는 10월 8일 첫 지시문을 발견한 뒤 도움말 센터가 연결한 545개 페이지를 저장하고, 화면에 보이는 글과 크롤러·AI 시스템에 전달되는 글을 비교했다. 10월 9일 시험에서는 OpenAI·Anthropic·Perplexity의 크롤러 이름으로 요청하면 지시문이 빠진 페이지가 돌아왔고, 구글과 빙 크롤러에는 지시문이 그대로 전달됐다. 같은 시스템을 쓰는 페이스북·인스타그램 도움말 300개 페이지에서는 비슷한 문구가 나오지 않았다.
인터넷 아카이브 사본을 보면 지시문은 7월 12일 사본에는 없고 9월 4일 사본에는 있었다. Redact는 10월 15일 21시 40분(UTC)까지 실제 페이지에 지시문이 남아 있었고, 10월 18일 02시 08분(UTC)에는 102건이 모두 사라졌다고 기록했다. 다만 WhatsApp 지원 챗봇이나 외부 AI 비서가 실제로 이 지시를 따랐는지는 시험하지 않았다고 밝혔다.
WhatsApp과 메타의 해명은
WhatsApp 대변인 조슈아 브렉먼은 WIRED에 해당 문구가 사용자가 아니라 자사 지원 챗봇에 주는 지시였으며, 버그 때문에 노출됐고 이미 수정했다고 설명했다. 회사는 지원 챗봇이 WhatsApp 사용법에 관한 조언에 집중하고 법률 자문은 하지 않기를 바란다는 입장이다. WhatsApp은 메타 소유 서비스로, 유럽 사용자에게는 GDPR이 계정 삭제 요구권과 감독기관 민원 제기권을 보장한다.
AI 챗봇 지시문 노출이 남긴 질문
기업이 챗봇의 시스템 프롬프트로 답변 범위를 정하는 일 자체는 흔하다. 쟁점은 같은 회사가 사람에게 보여 주는 안내와 AI에게 주는 지시 사이의 간극이다. Redact의 댄 솔트먼 CEO는 사람들이 듣는 내용과 LLM이 듣는 내용 사이의 차이가 이번 사안의 핵심이라고 말했다. 검색엔진 크롤러에 지시문이 전달됐다는 점에서, 외부 AI 검색 서비스가 이를 읽었을 가능성도 남는다. AI가 불리한 정보를 덜 드러내는 문제는 AI 보고서가 불리한 결과를 숨기는 경향을 다룬 연구에서도 지적됐다.
지시문이 얼마나 오래 노출됐는지, 다른 언어판이나 링크되지 않은 페이지에도 같은 문구가 있었는지는 아직 확인되지 않았다. 유럽 개인정보 감독기관이 이 사안을 들여다볼지도 관심사다.
자주 묻는 질문
WhatsApp 도움말의 숨은 AI 지시문은 사용자에게 보였나?
보이지 않았다. 지시문은 페이지 코드에만 들어 있었고 화면에는 표시되지 않았다. Redact에 따르면 구글·빙 크롤러에는 전달됐다.
WhatsApp은 숨은 지시문에 대해 뭐라고 했나?
WhatsApp은 지원 챗봇용 지시문이 버그로 노출됐고 이미 고쳤다고 밝혔다. 챗봇이 법률 자문 대신 WhatsApp 사용 안내에 집중하도록 하려는 지시였다는 설명이다.
지금도 WhatsApp 도움말에 지시문이 남아 있나?
Redact 기록으로는 10월 18일 02시 08분(UTC)에 80개 페이지의 지시문 102건이 모두 사라졌다. 이전 내용은 인터넷 아카이브 사본에서 확인할 수 있다.
