뉴멕시코 대법원, ChatGPT가 지어낸 가짜 증인에 변호사 5000달러 제재

뉴멕시코주 대법원이 살인 혐의로 유죄가 확정된 의뢰인의 항소이유서에 ChatGPT가 지어낸 경찰관과 목격자의 진술을 인용한 변호인에게 5000달러의 벌금을 부과하고 법정모욕 결정을 내렸다.

핵심 요약

• 뉴멕시코주 대법원은 수요일 산타페의 변호사 Stephen Aarons에게 5000달러 벌금과 법정모욕 결정을 내리고, 주 변호사 징계위원회에 회부하겠다고 밝혔다.
• 법원은 해당 이유서에 존재하지 않는 증인의 허위 진술이 담겼으며, 총격범이 짙은 색 바지에 흰 셔츠를 입고 있었다는 날조된 내용까지 포함됐다고 지적했다.
• Aarons는 기계가 생성한 공판 기록을 ChatGPT에 넣으면 빈틈없는 요약이 나올 것으로 기대했고, 이 도구가 어디까지 환각을 일으키는지 알지 못했다고 해명했다.

이번 제재는 로이터가 처음 보도했고, 수요일 공개된 법원 문서에 구체적인 내용이 담겼다. 재판부는 Aarons가 AI로 작성한 서면의 사실관계와 법적 근거를 검증하지 않았고, 반성의 기색도 의뢰인에 대한 책임 의식도 보이지 않았다고 판단했다.

날조된 서면에 실제로 담긴 내용

Aarons가 맡은 사건은 자녀의 어머니를 살해한 혐의로 지난해 유죄가 확정돼 종신형을 선고받은 Oscar Renee Sandoval의 항소였다. Sandoval 측이 제출한 주 이유서는 AI 제재 사례에서 이미 익숙해진 '존재하지 않는 판례 인용'에 그치지 않았다. 법정에 선 적이 없는 증인과, 그런 말을 한 적이 없는 경찰관의 발언까지 그대로 인용했다.

법원은 지난달 Aarons에게 날조된 내용이 어떻게 서면에 들어갔는지 소명하라고 명령하면서 총격범의 옷차림에 관한 가공의 진술을 특히 문제 삼았다. 8월 21일 심리에서 Aarons는 컴퓨터가 생성한 공판 기록과 사건 자료를 챗봇에 입력했고, 재판 내용을 믿을 만하게 정리해 줄 것으로 여겼다고 진술했다.

C. Shannon Bacon 대법관은 현직 변호사가 널리 알려진 위험을 몰랐다는 해명을 수긍하지 않았다. 그는 Aarons에게 뉴스를 보는지, 라디오를 듣는지, 세상 돌아가는 일을 읽기는 하는지 물으며 AI 환각에 기댄 변호사 이야기가 날마다 1면을 차지해 왔다고 지적했다고 심리 현장을 전한 보도가 밝혔다.

Aarons는 로이터에 반성하고 있다면서도 징계위원회가 이번 일을 고의 없는 실수로 봐주기를 바란다고 말했다. 그는 강력하지만 때때로 불안정한 기술에 기대는 모든 전문직을 위한 교훈이라고 덧붙였다. ChatGPT를 개발한 OpenAI는 즉각 입장을 내지 않았다.

이번 사건이 기존 사례와 다른 이유

지금까지 미국에서 수십 명의 변호사가 대규모 언어모델이 만들어 낸 인용을 서면에 담거나 구속력 있는 판례를 잘못 인용해 징계를 받았다. MyPillow 창업자 Mike Lindell을 대리한 변호인들은 AI가 만든 오인용으로 벌금을 물었고, 지난해에는 연방 판사가 허위·오도 인용으로 가득한 서면을 낸 두 로펌을 질책했다.

형사 항소심에서 증언 자체를 지어낸 것은 차원이 다른 잘못이다. 잘못된 판례 인용은 상대 변호인이나 판례집을 확인하는 재판연구원이 걸러낼 수 있다. 그러나 없는 증언을 만들어 내면 법원이 심사해야 할 사실관계 자체가 오염되고, 그것도 피고인이 종신형을 살고 있는 사건에서 벌어진 일이다. Sandoval의 항소심은 아직 진행 중이며 9월 2일 뉴멕시코주 국선변호인 Kim Chavez Cook에게 재배당됐다. Cook은 언급을 피했고 Dona Ana 카운티 지방검찰청도 답하지 않았다.

이 사건은 AI 산출물이 검증 속도보다 빠르게 공적 기록에 스며드는 흐름을 그대로 보여준다. 올해 조사에서는 새로 게시된 웹페이지 상당수에서 AI 작성 징후가 나타났다는 결과가 나왔고, 이제 법원도 전문가의 서면이 예외가 아니라는 사실을 확인하고 있다.

앞으로 남은 절차

실질적인 파장은 징계 회부에 있다. 5000달러 벌금은 개인 변호사가 감당할 수 있는 수준이지만 자격 정지는 다르다. 이미 여러 주 법원과 연방 법원이 서면 내용을 1차 자료와 대조했다는 확인서를 요구하기 시작했고, 이번 결정 같은 판단이 그 규정에 힘을 싣는다. AI 도구를 도입한 로펌이 얻을 교훈은 좁고 밋밋하다. 공판 기록 요약은 결국 정보를 찾아오는 작업이며, 찾아온 내용은 여전히 기록과 한 줄씩 대조해야 한다.

FAQ

뉴멕시코 변호사는 ChatGPT 사용으로 얼마를 물게 됐나?

뉴멕시코주 대법원은 Stephen Aarons에게 5000달러 벌금을 부과하고 법정모욕 결정을 내렸다. 법원은 또 주 변호사 징계위원회에 회부해 별도 조사를 받게 하겠다고 밝혔는데, 이 절차에서는 더 무거운 직업적 제재가 나올 수 있다.

ChatGPT는 서면에서 무엇을 지어냈나?

법원은 해당 서면에 존재하지 않는 증인의 허위 진술과 함께 날조된 경찰 진술, 총격범의 옷차림과 인상착의에 관한 거짓 내용이 담겼다고 밝혔다. Aarons는 컴퓨터가 생성한 공판 기록을 챗봇에 요약해 달라고 요청했다.

살인 사건 유죄 판결은 그대로 유지되나?

그렇다. Oscar Renee Sandoval의 항소심은 여전히 진행 중이며 9월 2일 뉴멕시코주 국선변호인에게 재배당됐다. 이번 제재는 전 변호인의 행위를 문제 삼은 것이지 항소 자체의 옳고 그름을 판단한 것은 아니다.