버니 샌더스 상원의원과 그레그 카사르 하원의원이 9월 23일 법안을 발의했다. 인공 초지능 개발을 영구 금지하고, 새로 만들 장관급 부처가 안전 규칙을 마련할 때까지 첨단 AI 학습을 중단시키며, 이를 무시하고 개발을 강행한 기업 경영진에게 최대 20년 징역형을 물리는 내용이다.
핵심 요약
- '인공 초지능 금지법'은 과학자가 이끄는 인공지능부를 신설한다. 이 부처는 프런티어 시스템을 감시하고, 위험 능력 제거를 감독하며, 초지능이 나타날 경우 그 파기를 감독할 권한을 갖는다.
- 기업은 첨단 AI 모델을 개발하기 전에 부처의 허가를 받아야 한다. 프런티어 학습 중단 조치는 연방 안전 규칙이 마련된 뒤에야 풀린다.
- 처벌은 법인에 대한 '기업 사형'과 개인에 대한 최대 20년 징역이다. 법안 요약문은 이 형량을 핵무기 불법 개발에 적용되는 현행법과 명시적으로 견준다.
법안은 인공 초지능을 대부분의 영역에서 인간의 인지 능력을 넘어서는 시스템, 또는 "인류의 파괴나 무력화"를 실행할 수 있는 시스템으로 규정한다. 조문은 이 표현을 정부 전복까지 포함하도록 확장한다. 이 금지는 영구적이다. 별도의 한시 조항은 능력 사다리를 훨씬 아래까지 훑어 내려가, 지정된 데이터 기준치를 넘겨 학습한 프런티어 모델을 적용 대상에 넣는다.
허가제가 실제로 요구하는 것
구조를 바꾸는 쪽은 눈에 띄는 금지 조항이 아니라 허가 요건이다. 법안대로라면 첨단 모델 개발은 승인을 받아야 하는 행위가 된다. AI 기업은 사후 공개 의무를 지는 데 그치지 않고, 착수 전에 인공지능부의 승인을 받아야 한다. 프런티어 학습을 연구소 재량으로 시작하고 규제 당국이 출시된 결과물에 대응하는 현재 미국의 구도를 뒤집는 셈이다.
법안 요약문이 설명하는 신설 부처의 권한 범위는 이례적으로 실무적이다. 부처는 프런티어 시스템의 수명 주기 전반에서 위험 능력을 추적하고, 기초자들이 직접 지목한 능력의 제거를 감독한다. 종료 명령 무력화와 무단 사이버 공격 수행이 그 대상으로 적시됐다. 생화학무기를 개발할 수 있는 시스템, 그리고 새로운 AI 시스템을 스스로 만들어 내는 AI 시스템에는 별도의 중단 조치가 적용된다.
책임은 법인 경계에서 멈추지 않는다. 20년형은 AI 기업 경영진에게 적용되며, 요약 문서에 따르면 그런 기업에 속하지 않은 채 같은 규칙을 어긴 이탈 행위자에게도 적용된다. 발의자들의 발표문을 보면 법안은 어디에서도 초지능이 개발되지 않도록 국제 합의와 동맹 공조, 수출 통제를 추진하도록 미국 정부에 지시한다.
중단론을 둘러싼 양쪽의 논리
샌더스는 이 제안을 기술이 아니라 속도의 문제로 규정했다. 목적지가 낭떠러지라면 가속 페달에서 발을 떼는 정도로는 충분한 대응이 아니라는 것이다. 인류의 미래가 걸린 사안을 소수의 기술 경영진이 스스로 규칙을 쓰도록 맡겨 둘 수는 없다고도 말했다. 그는 별도로 냉전기 군비 통제를 거론하며, 로널드 레이건이 미하일 고르바초프와 핵 조약을 협상한 사례를 적대국도 한계선에 합의할 수 있다는 선례로 들었다.
의회 진보 코커스 의장인 카사르는 오남용과 통제 상실을 근거로 삼았다. 엉뚱한 사람의 손에 들어간 초지능, 혹은 스스로 움직이는 초지능이 대규모 인명 피해를 낼 수 있다고 경고했다. 주요 연구소 소속 개인 연구자들이 이름을 보탠 점도 눈에 띈다. OpenAI의 안전 시스템 연구자와 Google DeepMind 엔지니어가 개인 자격으로 법안을 지지했고, 후자는 현재의 개발 궤적이 실존적 재앙으로 이어질 가능성이 크다고 밝혔다.
가장 취약한 지점은 정의 문제다. 모델이 "대부분의 영역에서 인간의 인지 능력을 넘어서는지"를 기준으로 삼는 법률은 이를 집행하는 쪽에 막대한 재량을 넘긴다. 게다가 이 판단을 정리해 줄 범용 인공지능 합의 벤치마크는 존재하지 않는다. 첨단 모델에 해당하는지를 가르는 기준도 학습 데이터 규모인데, 프런티어 연구소들은 아키텍처가 바뀔 때마다 이런 기준을 우회해 왔다.
앞으로의 전망
단기 입법 전망은 어둡다. 공화당이 의회를 장악하고 있고, 행정부는 반대 방향으로 움직여 왔다. 도널드 트럼프 대통령은 연방 문서에서 'AI' 대신 '초지능'을 쓰겠다고 밝혔고, 샌더스는 트럼프가 이 사안을 거의 이해하지 못한다고 본다고 잘라 말했다. 상임위 심사 일정도 잡히지 않았다.
이 법안의 의미는 좌표를 찍는 데 가깝다. 실제 압력이 작동하는 곳은 주 단위 조치였다. 개빈 뉴섬 캘리포니아 주지사는 지난주 프런티어 모델 킬 스위치 설계를 두 달 시한으로 발주했다. 연방 차원의 처벌 수위를 핵확산 관련법과 같은 눈금에 올려놓은 것은, 중단론 진영에 협상을 깎아 내려갈 구체적 기준점을 쥐여 주는 동시에 2028년 대선 주기를 겨냥한 출발 위치를 선점하는 효과가 있다.
FAQ — 자주 묻는 질문
이 법안은 AI 개발 자체를 금지하나?
아니다. 영구 금지는 인공 초지능에만 적용된다. 첨단 모델이나 프런티어 모델 개발은 금지가 아니라 중단이며, 인공지능부가 안전 규칙과 모델 심사 절차를 갖추면 풀린다. 법안이 정한 학습 기준치 아래의 시스템은 중단 대상이 아니다.
'기업 사형'이란 무엇인가?
법안 요약문이 개인 징역형과 짝지어 제시한 법인 단위 제재다. 벌금이 아니라 위반 기업의 영업 자격 자체를 박탈하는 조치다. 개인에게는 최대 20년형이 적용되며, 기초자들은 이를 핵무기 불법 개발에 대한 처벌과 견줄 만한 수준으로 설정했다.
법으로 제정될 가능성은?
이번 회기에는 어렵다. 상하원 모두 공화당이 다수라 통과 가능성이 매우 낮고, 백악관도 가속 기조를 내비쳤다. 이 법안은 의제를 설정하는 문서이자, 이미 프런티어 모델 규칙을 만들고 있는 주 의회들에 기준점으로 기능한다.
