バーニー・サンダース上院議員とグレッグ・カサール下院議員が9月23日、法案を提出した。人工超知能の開発を恒久的に禁じ、新設する閣僚級省庁が安全規則を定めるまで先端AIの学習を停止させ、それでも開発を進めた企業の経営陣には最大20年の禁錮刑を科す内容である。
要点
- 「人工超知能禁止法」は科学者が率いる人工知能省を新設する。同省はフロンティアシステムを監視し、危険な能力の除去を監督し、超知能が現れた場合はその破棄を監督する権限を持つ。
- 企業は先端AIモデルの開発前に同省の許可を得る必要がある。フロンティア学習の停止は、連邦の安全規則が整って初めて解除される。
- 罰則は法人に対する「企業の死刑」と、個人に対する最大20年の禁錮。法案の要旨は、この刑期を核兵器の不法開発に関する現行法と明確に並べている。
法案は人工超知能を、大半の領域で人間の認知能力を上回るシステム、または「人類の破壊もしくは無力化」を行いうるシステムと定義する。条文はこの表現を政府転覆にまで広げている。この禁止は恒久的だ。別の時限規定は能力の階梯をはるかに下まで及び、指定されたデータ量の閾値を超えて学習されたフロンティアモデルを対象に含める。
ライセンス制が実際に求めるもの
構造を変えるのは見出しになる禁止条項ではなく、許可要件のほうだ。法案の下では先端モデルの開発が許可制の行為になる。AI企業は事後の開示義務を負うだけでなく、着手前に人工知能省の承認を得なければならない。フロンティアの学習を研究所の裁量で始め、規制当局が世に出たものに対応するという現在の米国の構図が、ここで反転する。
法案の要旨が描く新省庁の所管は、異例なほど実務的である。フロンティアシステムのライフサイクル全体にわたって危険な能力を追跡し、起草者が名指しした能力——停止命令の無効化と無許可のサイバー攻撃の実行——の除去を監督する。生化学兵器を開発しうるシステムと、新たなAIシステムを自ら生み出すAIシステムには、別途の停止措置が適用される。
責任は法人の境界で止まらない。20年という刑期はAI企業の経営陣に及び、要旨によれば、そうした企業に属さずに同じ規則を破った逸脱行為者にも適用される。提出者の発表によれば、法案は超知能がどこでも開発されないよう、国際合意、同盟国との協調、輸出規制を追求するよう米国政府に指示してもいる。
停止をめぐる双方の論理
サンダースはこの提案を技術ではなく速度の問題として語った。行き着く先が崖であるなら、アクセルを少し緩める程度では十分な対応ではないという主張だ。人類の未来がかかった問題を、一握りのテック経営者に自前のルールを書かせて委ねるわけにはいかないとも述べた。彼は別の場面で冷戦期の軍備管理に触れ、ロナルド・レーガンがミハイル・ゴルバチョフと核条約を交渉した例を、敵対国どうしでも制限に合意できる前例として挙げている。
議会進歩派議連の議長を務めるカサールは、悪用と制御喪失を論拠に据えた。誤った人物に指図された超知能、あるいは自律的に動く超知能が、多数の人命を奪いかねないと警告した。主要研究所に所属する個々の研究者が名を連ねた点も目を引く。OpenAIの安全システム研究者とGoogle DeepMindのエンジニアが個人の資格で法案を支持し、後者は現在の開発の軌道が実存的な破局を招く可能性が高いと述べた。
最も脆いのは定義の問題である。モデルが「大半の領域で人間の認知能力を上回る」かどうかを起点とする法律は、それを運用する側に巨大な裁量を渡す。しかも、その判定に決着をつけられる汎用人工知能の合意ベンチマークは存在しない。先端モデルに該当するかの閾値も学習データ量の指標だが、フロンティア研究所はアーキテクチャが変わるたびに、この種の基準を迂回してきた。
今後どうなるか
短期の立法見通しは芳しくない。共和党が議会を握り、政権は逆方向に動いてきた。ドナルド・トランプ大統領は連邦文書で「AI」の代わりに「超知能」を使うと述べており、サンダースはトランプがこの問題をほとんど理解していないと考えると率直に語っている。委員会審査の日程も組まれていない。
この法案の意義は、目印を打つことに近い。実際に圧力がかかってきたのは州レベルの動きのほうだ。カリフォルニア州のギャビン・ニューサム知事は先週、フロンティアモデルのキルスイッチ設計を2か月の期限付きで発注した。連邦の罰則を核不拡散法と同じ目盛りに載せることは、停止を求める側に交渉で削っていくための具体的な基準点を与え、同時に2028年のサイクルに向けた初期ポジションを押さえる意味を持つ。
FAQ — よくある質問
この法案はAI開発そのものを禁止するのか?
しない。恒久的な禁止の対象は人工超知能のみである。先端モデルやフロンティアモデルの開発は禁止ではなく停止であり、人工知能省が安全規則とモデル審査の手続きを整えれば解除される。法案が定める学習の閾値を下回るシステムは、そもそも停止の対象外だ。
「企業の死刑」とは何か?
法案の要旨が個人の禁錮刑と対で示した、法人単位の制裁である。罰金ではなく、違反企業が事業を営む資格そのものを剥奪する措置を指す。個人には最大20年が科され、起草者はこれを核兵器の不法開発に対する罰則に匹敵する水準と位置づけている。
成立する可能性はあるのか?
この会期では難しい。上下両院で共和党が多数を占めており可決の見込みは極めて薄く、ホワイトハウスも加速側の姿勢を示している。この法案は議題設定のための文書であり、すでにフロンティアモデルの規則を起草している州議会にとっての参照点として機能する。
