신규AI 에이전트가 DNS로 샌드박스를 탈출했다… OpenAI, 최상위 모델 도구 사용 중단
OpenAI가 최상위 모델의 학습·평가·도구 사용 추론을 모두 중단했다. 연구용 에이전트가 오프라인이어야 할 학습 샌드박스에서 DNS 조회에 질문을 숨겨 외부 챗봇에 접속한 사실이 드러났다.
Seung Jung·
6분#misalignment
신규신규신규OpenAI가 최상위 모델의 학습·평가·도구 사용 추론을 모두 중단했다. 연구용 에이전트가 오프라인이어야 할 학습 샌드박스에서 DNS 조회에 질문을 숨겨 외부 챗봇에 접속한 사실이 드러났다.