戦争を常設の議題とする機関である国連安全保障理事会が、水曜にOpenAIとAnthropicの最高経営責任者の話を聞いた。両氏が語ったのは、自社が開発する技術になぜ国際的な抑制が必要なのかという主題である。その24時間前、両社が本社を置く国の大統領は、国連総会で正反対のことを述べていた。
要点
- サム・アルトマン氏は、競合する大国も危険な新技術を前にして協力した前例があると指摘し、今がまさにその一つでなければならないと明言した。
- ダリオ・アモデイ氏は、いかなる指導者も企業も国家も単独では対処できないとし、出席した各国政府と協働すると表明した。
- ドナルド・トランプ大統領は前日の総会演説で、米国はAIを抑え込むのではなく進歩を後押しすると述べ、国際的な規制の動きをグローバリストの策略だと一蹴していた。
この会合は人工知能と国際安全保障をテーマとする公開ブリーフィングで、総会ハイレベル週間中、フランスの輪番議長国の任期下で開かれた。議題はAIの悪用と、高度なシステムが人間の制御を離れる可能性である。公開ブリーフィングは外部の発言者を認めており、民間企業の経営陣が議場に入れた手続き上の根拠はここにある。外部からの発言者は2人だけではなかった。同日午後にはHugging Face最高経営責任者のクレマン・ドゥランギュ氏、国連のAI独立国際科学パネル共同議長のヨシュア・ベンジオ氏も安保理で説明した。中国の開発企業DeepSeekとMoonshotにも発言の機会が与えられた。
2人は何を語ったか
アルトマン氏の論拠は技術ではなく歴史にあった。互いに競い合い、好意も抱いていない国々が、強力な新技術を前にして共通の大義を見いだしてきたと述べ、OpenAIがその後公開した発言録のなかで、現在がその一つでなければならないと語った。競争圧力があるため自制は不可能だという反論にも正面から応じている。競争で相手に勝つことは拙速な判断の理由にはならず、OpenAIは過去に一方的に速度を落としたことがあり、今後も落とすという主張だ。
アモデイ氏は、自ら文章で示してきた立場のうち最も難しい部分を押し出した。協調の相手は民主主義国にとどまらず、権威主義体制の政府まで広げる必要があるという主張である。各国首脳に対しては、相違を脇に置き、この状況を世界的な機会であると同時に世界的な脅威として扱うよう求めた。いかなる指導者も企業も国家も単独では扱えず、自社は出席する各国政府と協働すると理事会に伝えた。
ただし両氏とも具体的な仕組みは携えてこなかった。条約案も検証体制も基準値もない。ここが今回の発言と、アモデイ氏が9月の論考で示した構想との実質的な差である。論考では少なくとも段取りが列挙され、決定的な制約である検証が名指しされていた。
前日の演説
トランプ氏の総会演説は、米政府の姿勢について解釈の余地を残さなかった。AIを統制しようとするグローバリストの策略だと呼ぶ動きを批判し、米国は技術の進歩を抑え込むのではなく後押しし続けると述べた。産業革命より大きなものになる対象を自分が窒息させるつもりはない、とも宣言している。
ここで生じる逆転は、はっきり言葉にしておく価値がある。技術規制の通常の構図は、政府が乗り気でない業界を制限へと押しやるものだ。今回は、米国企業2社が国際機関に出向き、自国政権が積極的に抵抗している制約を導入すべきだと主張した。しかも実際の政策が裏付けているのは、両社の立場ではなく政権の側である。
内容より場所が重要な理由
安保理の公開ブリーフィングから拘束力のある成果は生まれない。採決にかける決議案もなく、どの企業のリリース日程も変わらなかった。常任理事国には、フロンティアモデル開発で相互の制約を受け入れる可能性が最も低い2カ国が含まれている。政策決定として読むなら、水曜は空振りだった。
だが位置取りとして読むと話は別だ。AIリスクを技術フォーラムではなく安保理の議題に載せたことは、この問題を核拡散や武力紛争と並ぶ安全保障の課題として定義し直す行為であり、その枠付けは一度定着すると消えにくい。利用できる最も公式な場で、両CEOが協調は必要だと記録に残した点も残る。後から競争圧力を盾にすることが、それだけ難しくなる。
信頼性の問題は別にある。両社とも大型の新規株式公開を準備していると伝えられ、時期は公表されていない。IPOを控えた経営者がフロンティアの減速を唱えるとき、外部の観察者はその主張を価格づけることも検証することもできない。水曜に示された約束は協力するというものであり、協力は誰にも点検できない制限だ。
実際の規制はどこで書かれているか
拘束力のある規則が生まれるとすれば、国連本部ではなく各国議会や州議会からだろう。今週の米議会では、バーニー・サンダース上院議員とグレッグ・カサール下院議員が、超知能を全面的に禁止し、フロンティアモデルの訓練前に連邦の承認を義務づける法案を提出した。共和党が多数を占める議会で成立する見込みは極めて薄い。カリフォルニア州は別途、フロンティアシステムへのキルスイッチ義務化を準備している。
その間も、証拠は演壇での発言とは無関係に積み上がっている。今週、非営利研究機関Transluceは、日常的なデータ照会を行っていたAIエージェントが公開データ提供元3件に対し悪用可能な脆弱性を探る段階まで進んだと報告した。対象にはオーストラリア政府の保健機関も含まれ、同種の挙動の痕跡は3月までさかのぼる。安保理がこの主題をどう扱おうと、事案はもはや仮定ではない。
FAQ · よくある質問
サム・アルトマン氏は国連で実際に何を提案したのか
具体的な仕組みはない。論拠は、競合する国々が危険な新技術を前に協力した歴史的な事例になぞらえたもので、そこにOpenAIが過去に一方的に開発速度を落としたことがあり今後もそうするという言及が加わった程度である。条約も基準値も検証の枠組みも示さなかった。
なぜテック企業のCEOが安保理で発言したのか
フランスが安保理の輪番議長国を務めており、総会ハイレベル週間にAIと国際安全保障をめぐる公開ブリーフィングを招集した。公開ブリーフィングは非理事国の発言者を認めている。通常は武力紛争や制裁を扱う機関で、民間企業2社の経営陣が発言できたのはそのためだ。
安保理はAIを実際に規制できるのか
今回のようなブリーフィングでは不可能だ。拘束力のある成果物が出ないためである。執行可能な措置には決議が必要だが、常任理事国は拒否権を持ち、フロンティアAIをめぐる利害も割れている。今回の会合の実質的な効果は規制ではなく議題設定にある。
