聯邦參議員伯尼·桑德斯與眾議員格雷格·卡薩爾於9月23日提出法案，要永久禁止人工超智慧的開發，在新設的內閣層級部會訂出安全規則之前暫停先端AI訓練，並讓執意推進的企業高層面臨最高20年的有期徒刑。
重點摘要
- 《禁止人工超智慧法》將設立一個由科學家領導的人工智慧部，賦予其監控前沿系統、監督移除危險能力，以及監督銷毀任何超智慧的權力。
- 企業在開發先端AI模型之前必須取得該部會許可，前沿訓練的暫停令要等到聯邦安全規則到位後才會解除。
- 罰則包括針對法人的「企業死刑」與針對個人最高20年的徒刑——法案摘要明白地把這個刑度拿來與現行非法開發核武的法律相比。
法案把人工超智慧定義為在多數領域超越人類認知表現的系統，或是有能力造成「人類毀滅或失能」的系統，條文並把後者延伸到推翻政府。這項禁令是永久的。另一項暫時性條款則往能力階梯下探得更深，涵蓋訓練資料超過特定門檻的前沿模型。
許可制實際上會要求什麼
真正改變結構的是許可要求，而不是那條搶眼的禁令。按照法案，開發先端模型會變成一項需要核准的行為：AI公司必須先取得人工智慧部同意才能動手，而不只是事後負揭露義務。這等於把美國現行的格局顛倒過來——如今前沿訓練由實驗室自行決定何時啟動，監理機關則針對已推出的成品作出反應。
依法案摘要所述，這個新部會的職權範圍務實得不尋常。它要在前沿系統的整個生命週期中追蹤危險能力，並監督移除起草者直接點名的幾項能力：規避關機指令，以及發動未經授權的網路攻擊。另有單獨的暫停措施適用於具備開發生化武器能力的系統，以及會自行開發新AI系統的AI系統。
責任不會停在法人這道界線上。20年的刑責適用於AI公司的領導層，而依據說明文件，也適用於不隸屬任何公司、卻違反同一套規則的脫序行為者。根據提案人的公告，法案還要求美國推動國際協議、盟友協調與出口管制，目標是防止超智慧在任何地方被開發出來。
暫停與否，雙方各執一詞
桑德斯把這項提案定位成速度問題，而非技術問題。他主張，如果前方是懸崖，只把腳從油門上鬆一點並不算足夠的回應，而人類的未來茲事體大，不能任由一小撮科技高層自己寫規則。他另外援引冷戰時期的軍備管制，以雷根與戈巴契夫談成核子條約為例，說明敵對陣營之間同樣能就限制達成共識。
身兼國會進步派連線主席的卡薩爾，則從濫用與失控的角度切入，警告超智慧一旦被錯誤的人指揮、或自行其是，可能奪走大量人命。值得注意的是，主要實驗室的個別研究者具名支持：一位OpenAI安全系統研究員與一位Google DeepMind工程師都以個人身分背書，後者形容當前的開發軌跡很可能導致一場存亡級的災難。
法案最禁不起推敲的地方在定義。一部以模型是否「在多數領域超越人類認知表現」為判準的法律，等於把極大的裁量權交給執行者，而目前也不存在能替這個問題定案的通用人工智慧共識基準。判定是否屬於先端模型的門檻用的是訓練資料量，而前沿實驗室向來會隨著架構變化繞開這類指標。
接下來會怎樣
法案的短期立法前景並不樂觀。共和黨掌握國會，行政部門的方向則相反——川普總統曾表示聯邦文件將以「超智慧」取代「AI」，桑德斯也直言他認為川普對這個議題幾乎沒有理解。目前尚未安排委員會審查。
它的意義比較接近立下一個標記。真正承受壓力的其實是州層級：加州州長紐森上週以兩個月為期，委託設計前沿模型的緊急停止機制。把聯邦罰則放上與核擴散法相同的刻度，等於給主張暫停的一方一個可以往下談的具體參照點，同時也為2028年選舉週期卡好開場位置。
FAQ — 常見問題
這部法案會直接禁止AI開發嗎？
不會。永久禁令只涵蓋人工超智慧。先端或前沿模型的開發是暫停而非禁止，等人工智慧部建立安全規則與模型審查程序後即可解除。低於法案訓練門檻的系統完全不在暫停範圍內。
什麼是「企業死刑」？
這是法案摘要中與個人徒刑並列的法人層級制裁——撤銷違法企業的營運資格，而不是罰款。個人最高可處20年，起草者把這個刑度定位為與非法開發核武的罰則相當。
這部法案有機會通過嗎？
本屆國會不太可能。兩院都由共和黨掌握多數，通過的機率極低，白宮也表現出加速派的立場。這部法案的作用在於設定議題，並成為那些已在草擬前沿模型規範的州議會的參照點。
