GPT 독성 점수는 수년째 떨어졌다, 새 연구는 해악이 형태만 바꿨다고 말한다
GPT-2부터 GPT-5까지 15개 모델에 성별 지정 프롬프트로 45만 건의 응답을 받아 분석한 연구자 3명은, 안전 학습이 노골적 차별 표현을 없앤 것이 아니라 분류기가 잡지 못하는 형태로 바꿔놓았다고 밝혔다.
Seung Jung·
5분#llm-research
GPT-2부터 GPT-5까지 15개 모델에 성별 지정 프롬프트로 45만 건의 응답을 받아 분석한 연구자 3명은, 안전 학습이 노골적 차별 표현을 없앤 것이 아니라 분류기가 잡지 못하는 형태로 바꿔놓았다고 밝혔다.