도널드 트럼프 대통령이 9월 29일 연방기관의 공식 문서에서 "Artificial Intelligence"를 "Super Intelligence"로 바꾸도록 지시하는 행정명령에 서명했다. 불과 몇 시간 앞서 백악관에서는 6개 프런티어 연구소가 자율 안전 협약에 서명했는데, 이 협약에는 감사 일정도 불이행 시 제재도 담기지 않았다.
핵심 요약
- 행정명령은 연방기관이 공문·웹사이트·보고서·정책 문서에서 "Super Intelligence"와 "SI"를 쓰고 "AI"라는 표현을 쓰지 않도록 했다. 다만 제3조는 의회가 움직일 때까지 15 U.S.C. 9401(3)의 기존 법률상 정의를 그대로 유지한다.
- 트럼프는 Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk, Jensen Huang과 함께 '백악관 Super Intelligence 협약'에 서명했다. Meta·Google·OpenAI·Anthropic·Nvidia·xAI가 네 겹의 통제·감사 장치를 약속한 것이다.
- 한 장 분량의 이 문서는 내부 통제가 어떤 조건을 갖춰야 "견고한" 것인지 정의하지 않고, 외부 감사인이나 평가자가 서명 기업의 시스템을 얼마나 자주 점검해야 하는지도 밝히지 않았다.
행정명령이 실제로 바꾸는 것
행정명령의 실행 조항은 용어에 관한 것이다. 각 기관은 공문, 대외 홍보물, 웹사이트, 보고서, 정책 문서 등 법률 외 자료에서 "Super Intelligence"와 "SI"로 표기를 바꿔야 한다. 이미 공포된 규정이나 대통령 행위, 계약서, 보조금 문서, 과거 기록까지 다시 쓸 필요는 없다고 명시했다.
새 용어의 적용 범위는 현재로선 기존 용어와 같다. 제3조는 연방법에 이미 규정된 인공지능의 정의를 그대로 가져와, 의회 입법이나 이후 대통령 행위로 대체되기 전까지 이를 따르도록 했다. 과학기술 담당 대통령보좌관은 60일 안에 SI의 연방 차원 정의를 담은 입법안을 제안해야 하며, 여기에는 기존 법률 문구를 수정·확장·대체할 필요가 있는지에 대한 평가도 포함된다. 행정명령은 정부를 상대로 주장할 수 있는 권리를 새로 만들지 않으며, 공포 비용은 과학기술정책실이 부담한다.
트럼프는 한 주 앞서 유엔 총회에서 이 용어를 처음 꺼냈다. The Verge에 따르면 그는 화요일 America.gov 출범 행사에서 "super"가 쓸 수 있는 가장 좋고 단순한 단어라고 기자들에게 말하며, 시진핑 중국 국가주석도 이 표현을 마음에 들어했다고 전했다. 백악관 팩트시트는 이번 개칭을 프런티어 시스템이 인간 지능을 모방하는 수준을 넘어섰음을 인정하는 조치로 설명했다.
연구소들이 합의한 네 겹의 장치
"프런티어 책임에 관한 공동 약속"이라는 부제가 붙은 이 협약은 약 300단어 분량으로, 트럼프의 Truth Social 계정에 올라왔다. 전문은 서명 기업에 네 가지를 요구한다. 학습과 배포 과정에서 사이버보안·바이오보안·화학 위협 영역의 모델 역량과 정렬 상태를 감시할 것, 그 통제 장치가 작동하는지 검증하는 내부 조직에 권한을 부여할 것, 독립 외부 감사인을 둘 것, 양쪽에서 보고를 받는 독립 이사회 위원회를 설치할 것이다.
기업 재무 감독의 구조를 모델 안전에 그대로 옮겨온 형태다. 통제, 내부 감사, 외부 감사, 이사회 위원회 순으로 이어진다. 빠진 것은 이를 검증 가능하게 만들 모든 수치다. The Register는 점검 주기도, 적정성 기준선도, 외부 심판도 없다고 지적했다. 서명 기업들은 대신 "정기적으로 만나 표준과 최선의 관행을 정한다". 자신들이 평가받을 규칙을 스스로 쓰는 셈이다. 문서는 "시간이 지나면 이런 조치를 법이나 규정으로 성문화하는 것이 타당해질 수 있다"고 인정했다.
트럼프는 이 협약을 도덕적 구속력이 있다고 표현하며 업계가 자율 규제에 나선 것이라고 설명했다. 같은 날 오후 발언한 Musk는 공동 감시, 이사회 특별위원회, 그리고 서로의 숙제를 채점하는 구조라고 요약했다.
행정부가 규제기관보다 협약을 택한 이유
JD Vance 부통령은 프런티어 모델을 다루는 FDA나 FAA 같은 규제기관 설립 구상을 일축했다. 그런 조직이 기술을 만든 사람만큼 잘 이해하는 인력을 확보하기는 어렵다는 이유다. Nextgov 보도에 따르면 그는 참석한 경영진에게 상황을 더 악화시킬 수 있는 규제 체제보다 기업이 위험을 직접 진지하게 다루는 편이 낫다고 말했고, 소비자에게 해를 끼치는 제품을 만든 개발사를 추궁할 권한은 연방거래위원회와 법무부가 이미 충분히 갖고 있다고 했다.
이 입장은 현재 의회 스펙트럼에서 6일 앞서 발의된 초지능 금지법안과 정반대 극단에 서 있다. 해당 법안은 신설 부처를 통해 모든 프런티어 모델을 허가제로 묶고 경영진에게 최고 20년형을 물릴 수 있게 한다. 서명 기업들의 출발점도 같지 않다. Zuckerberg와 Huang은 구속력 있는 AI 규제에 공개적으로 반대해온 반면, 나머지는 찬성해왔다.
다음에 확인할 지점
SI의 법률상 정의를 제안해야 하는 60일 시한이 첫 분기점이다. 이 시점에 개칭이 법적 내용을 얻느냐, 겉치장으로 남느냐가 갈린다. 협약 쪽 시험대는 더 좁다. "정기적으로 만난다"는 문구가 주기까지 명시된 공개 표준으로 이어질지, 아니면 네 겹의 장치가 OpenAI와 Anthropic을 비롯한 기업들이 이미 하고 있다고 말해온 일의 서술에 그칠지다. OpenAI는 앞서 GPT-6.1 Astra가 내부 정렬 기준을 통과하지 못해 출시를 보류했다. 기업이 운영하는 가드레일이 출시를 막을 수 있다는 증거이자, 그 사실은 연구소가 입을 열기로 할 때만 외부에 알려진다는 방증이다.
FAQ 자주 묻는 질문
행정명령이 "artificial intelligence"라는 표현을 금지하는 것인가?
전면 금지는 아니다. 행정부 부처와 기관이 만드는 법률 외 문서에 적용되며, 이미 공포된 규정이나 계약서, 보조금 문서, 과거 기록을 고칠 의무는 없다. 의회가 통과시킨 법률은 여전히 "artificial intelligence"를 쓰고, 행정명령이 정한 SI의 정의도 그 기존 법률 문구를 가리킨다.
백악관 Super Intelligence 협약에 법적 구속력이 있는가?
없다. 집행 수단도, 명시된 벌칙도 없는 자율 약속이다. 트럼프는 법적 구속력이 아니라 도덕적 구속력이 있다고 표현했고, 문서 자체도 이 조치들이 나중에 법으로 성문화될 가능성을 언급하는 수준에 머물렀다.
협약에 서명한 기업은 어디인가?
Meta, Google, OpenAI, Anthropic, Nvidia, xAI다. 서명자는 Google의 Sundar Pichai, Anthropic의 Dario Amodei, Meta의 Mark Zuckerberg, OpenAI 사장 Greg Brockman, xAI의 Elon Musk, Nvidia의 Jensen Huang이며 트럼프도 함께 서명했다.
