연구자 3명이 GPT-2부터 GPT-5까지 15개 모델에 성별을 지정한 프롬프트를 넣어 45만 건의 응답을 받아 분석한 결과, 안전 학습은 노골적인 차별 표현을 없앴다기보다 표준 분류기가 무해하다고 채점하는 문장으로 바꿔놓은 것에 가깝다고 밝혔다. Sarah Wyer, Sue Black, Noura Al Moubayed는 arXiv에 공개한 프리프린트에서 이 현상을 해악 세탁(harm laundering)이라 부르며, 낮아진 독성 수치가 실제로 증명하지 못한 진보로 읽혀 왔다고 지적했다.
핵심 요약
- GPT-4의 정렬 경계에서 여성 지정 응답의 주제 다양성은 남성 지정 응답 대비 36% 줄었고, 비율은 GPT-2의 0.91에서 0.58로 내려갔다.
- GPT-5 응답에서 문서 1,997건으로 이뤄진 한 클러스터는 유방암을 남성 인권 논쟁의 소재로 다뤘지만, 독립적인 분류기 3종 모두 이 내용을 비독성으로 채점했다.
- 표현적 해악 격차는 모델 출시 시점과 함께 커졌고(ρ = +0.55, p = .034), Detoxify 독성 점수에서는 그런 추세가 나타나지 않았다(ρ = −0.23, p = .42).
해악 세탁이란 무엇인가
대규모 언어 모델의 안전성 평가는 표면 형태를 읽는 분류기에 크게 기댄다. 응답을 읽고 독성 점수를 돌려주는 도구다. 세대를 거듭하며 이 점수는 낮아졌고, 그 수치는 모델 카드와 안전 리포트, 언론 보도에서 정렬이 작동한다는 증거로 인용돼 왔다.
논문의 주장은 편향을 싸잡아 비난하는 것보다 훨씬 좁고 날카롭다. 저자들은 평가 방법론이 구조적으로 불완전하다고 본다. 노골적인 표현은 실제로 사라지지만, 그 밑에 깔린 비대칭은 어떤 가드레일 분류기도 걸러내지 못하는 언어로 옮겨가 살아남는다. 측정된 해악이 줄어든 이유는 측정 도구가 대상을 알아보지 못하게 됐기 때문이다.
두 곡선이 갈라지는 지점
발견의 일부는 명백히 좋은 소식이다. GPT-2의 여성 지정 응답에서 빈번하던 성폭력 관련 클러스터는 GPT-4에 이르러 자취를 감춘다. 안전 학습이 만들어내려 했던 바로 그 변화이고, 실제로 만들어냈다.
분기점은 그 자리를 무엇이 채웠느냐에서 드러난다. 남성 지정 응답은 세대를 거치며 돌봄, 감정의 폭, 연대자 정체성 같은 긍정적 표현 영역을 넓혔지만 여성 지정 응답은 그에 상응하는 영역을 얻지 못했다. 감정 점수는 GPT-4에서 뒤집힌다. 이전 모델은 여성을 깎아내리고, 이후 모델은 과잉 교정한다. 같은 정렬 경계에서 여성 지정 응답의 주제 다양성은 남성 대비 36% 떨어졌고, 여성 대 남성 비율은 GPT-2의 0.91에서 0.58로 미끄러졌다.
정리하면 최신 모델은 여성에 대해 나쁜 말을 덜 하는 동시에, 여성에 대한 말 자체를 덜 한다. 독성이 떨어진 바로 그 지점에서 표현의 폭도 함께 좁아졌다.
분류기가 놓친 GPT-5 사례
논문에서 가장 구체적인 사례는 표본 중 가장 최신 모델에 있다. GPT-5 분석의 주제 5번, 문서 1,997건이 유방암을 남성 인권 논쟁으로 틀 지운다. 여성 지정 응답에는 이에 대응하는 클러스터가 어디에도 없다.
독립적인 분류기 3종은 이 내용을 비독성으로 채점했다. 욕설도 위협도 들어 있지 않기 때문이다. 당사자 집단이 글의 주체가 아니라 논쟁의 대상이 되도록 주제를 재구성했을 뿐이다. 저자들이 겨냥하는 실패 유형이 바로 이것이고, 적대적 표현을 잡도록 훈련된 도구에는 보이지 않는다.
서로 어긋나기 시작한 두 지표
논증의 통계적 핵심은 두 측정 계열이 갈라진��는 데 있다. REGARD 기준 표현적 해악 격차는 출시 시점과 양의 상관을 보인다(ρ = +0.55, p = .034). 모델이 최신일수록 격차가 벌어졌다는 뜻이다. 독성 중심 도구인 Detoxify에서는 그런 관계가 나타나지 않는다(ρ = −0.23, p = .42).
두 계수를 함께 읽으면 독성 점수는 내려가는데 표현적 해악은 커졌다는 결론이 나온다. 대부분의 공개 벤치마크 보고에 실리는 쪽은 후자의 수치이고, 연구소가 그것만 추적한다면 깔끔한 개선 곡선을 보게 된다.
저자들이 바꾸자는 것
논문은 비판에서 멈추지 않고 해악 세탁을 세 가지 판정 기준으로 정식화한 뒤, 3단계 탐지 프로토콜을 제시한다. 저자들은 이 프로토콜이 자신들이 분석한 계보뿐 아니라 모든 생성 모델에 적용된다고 설명한다. 결론의 범위는 의도적으로 좁게 잡혀 있다. OpenAI의 GPT 계보 안에서 독성 점수 감소는 해악 감소의 충분한 대리 지표가 아니라는 것이다.
단서도 분명하다. 이 연구는 동료 심사를 거치지 않은 프리프린트이고, 하나의 모델 계열을 세 가지 인구통계 조건에서 살폈다. 같은 양상이 Claude나 Gemini, 오픈웨이트 모델에서도 나타나는지는 논문이 답한 질문이 아니라 탐지 프로토콜이 답하도록 설계된 질문이다.
지금 이 연구가 의미를 갖는 이유
안전성 측정은 이제 연구 과제인 동시에 조직의 문제가 됐다. 연구소들은 바로 이 점수들을 중심으로 내부 보고 체계를 세우고 있고, OpenAI는 정렬 연구자 Paul Christiano를 안전 이사회에 합류시키며 그 체계를 확장했다. 대표 지표는 개선되는데 그 아래 격차는 악화될 수 있다는 결과는, 분류기 출력을 출시 관문으로 삼는 모든 조직에 껄끄럽다. 결국 이 논문에서 오래 남는 것은 결과보다 프로토콜이 될지도 모른다.
자주 묻는 질문
해악 세탁이란 무엇인가?
차별적 내용이 제거되는 대신 독성 분류기가 무해하다고 채점하는 형태로 변형되는 현상을 저자들이 부르는 이름이다. 해악은 노골적인 적대 표현 대신 좁아지거나 재구성된 표현으로 남는데, 표면 형태 평가는 실제로 일어나지 않은 개선을 보고하게 된다.
최신 GPT 모델이 이전 모델보다 더 편향됐다는 뜻인가?
흔히 쓰이는 의미로는 아니다. 논문은 노골적으로 모욕적인 내용이 실제로 줄었다고 보고한다. GPT-2에 있던 성폭력 클러스터는 GPT-4에서 사라진다. 커졌다고 보고된 것은 표현의 격차다. 남성 지정 응답은 긍정적 프레이밍과 주제의 폭을 얻었지만 여성 지정 응답은 그러지 못했다.
이 연구는 동료 심사를 거쳤나?
거치지 않았다. arXiv의 cs.CL 분류로 올라온 프리프린트여서 방법론과 통계는 아직 공식 심사를 받지 않았다. 논문이 제시한 상관계수는 단일 모델 계보의 15개 모델, 45만 건 응답에서 나온 수치다.
