電力会社からもう1メガワットを引き出せない事業者に残された手段は一つしかありません。すでに契約済みの電力から、売り物になる出力をより多く絞り出すことです。NVIDIAは今週のAI Infra Summit基調講演をこの論理の上に組み立て、そのてこが実際に動くことを示す顧客の数字まで持参しました。Lambdaは通常16台分とされる電力枠にサーバー19台を収め、その見返りにクラスター全体の毎秒トークン処理量を24%引き上げています。
要点
- LambdaはDSX MaxLPSの導入でクラスター全体のトークン処理量を毎秒約400万から500万へ、ワットあたり性能を23%引き上げました。Blackwellサーバー上で同ソフトウェアを本番検証した初の事例です。
- NVIDIAによれば、Vera Rubin NVL72はGB300 NVL72比でメガワットあたり処理量が最大30倍、100万トークンあたりコストが最大45分の1となりました。単発リクエストではなく、実際のエージェント型コーディングセッションを再生して測定した値です。
- Emerald AIとの別の実証では、AIファシリティが自治体の電力会社から届く数百件のリアルタイム需要信号に応答しながら、優先度の高いジョブを止めずに動かし続けました。
なぜ物差しが変わるのか
半導体の供給が制約だった時代には、ピークFLOPSが購買判断の指標として通用しました。しかし発注書ではなく系統連系の待ち順が動かせる演算量を決める建物では、話が変わってきます。NVIDIAのハイパースケール・ハイパフォーマンスコンピューティング担当バイスプレジデント、Ian Buck氏が火曜日のサミット発表で示した主張は明快です。検証済みのエージェント型トークンをメガワットで割った値こそが、売上に直結する数字だというわけです。
ベンチマークの世界も同じ方向へ動いています。SemiAnalysisは実際のエージェント型コーディングセッションの記録をもとにAgentXを構築しました。個々のプロンプトの応答時間を計る代わりに、コンテキストの増大、ツール呼び出しの遅延、サブエージェントの生成までそのまま保持します。NVIDIAによると、こうしたセッション1回のトークン量は通常のチャットリクエストの約15倍にのぼり、呼び出しごとに入力と出力の長さが大きく振れます。リクエスト単位の測定スイートではうまく捉えられないワークロードであり、だからこそNVIDIAはAgentXをMLPerfの推論テストの代替ではなく補完と位置づけています。
この物差しで測ると、DeepSeek V4 Proを動かすVera Rubin NVL72は前世代のGB300に対してメガワットあたり処理量が30倍に達すると、NVIDIAが公開したAgentXの数値は示しています。100万トークンあたりのコストは最大45分の1まで下がりました。いずれも平均値ではなく上限値として示されています。
Lambdaの結果が実務で示すもの
Lambdaのケースで実際に効いているのはDSX MaxLPSです。ラックごとに最悪時の消費電力を前提に容量を確保し、使われない分を遊ばせておく代わりに、このソフトウェアはGPUとラック全体の消費を継続的に追跡し、空いた余力を必要とするジョブへ振り向けます。学習と推論提供では電力の使われ方が異なるため、両者��混在する環境では相当な余力がそのまま眠っています。
電力枠を変えずにノードを3台上乗せするというのは地味に聞こえますが、規模が大きくなるほど効いてきます。しかも変電所も配線工事も許認可も要りません。NVIDIAは次世代でこの差がさらに広がると見ており、同じメガワット上限のもとでVera Rubin NVL72サイトはGPU容量を最大40%、トークン処理量を最大35%上積みできると予測しています。レイテンシが鍵となるエージェント処理に向けては、Vera RubinとGroq 3 LPXを組み合わせ、100KコンテキストのQwen 3.8 27B実行でユーザーあたり毎秒2,529トークンの出力を記録したとしています。
電力網がアーキテクチャの一部になる
最も尾を引く実証は、意外にもチップとはほとんど関係がありませんでした。Emerald AIはSilicon Valley Powerの柔軟負荷系統連系プログラムを通じて、電力会社からの数百件の信号に応じて施設が自動的に消費を絞りながら、重要なジョブは走り続ける様子を示しました。Emeraldは電力管理製品ConductorをNVIDIA DSX Flexの上に構築する考えです。DSX Flexは負荷抑制の要請、デマンドレスポンスのイベント、料金の変動を読み取り、事業者があらかじめ定めた優先順位の枠内で動作します。
この取り組みの意味は、技術と同じくらい規制の領域にあります。電力会社はデータセンターを動かしようのない固定需要とみなして系統連系の枠を配分します。要請があれば譲れると証明できる施設は、待ち行列で別の論理を持ち出せるわけです。これはNVIDIAがAIファクトリー建設に向けて動員してきた資金と並走する話であり、資金だけでは解けない制約に照準を合わせています。
数字をどこまで信用するか
ここに並ぶ倍率はいずれもベンダーかパートナーが自ら選んだワークロードで測ったものであり、目玉の比較は現行世代と直前世代を突き合わせたものです。重みを置くに値する例外はLambdaでしょう。本番クラスターの数値であり、伸び幅も納得できる範囲に収まっていて、Blackwellを運用する他の事業者が自ら確かめられます。30倍と45倍というAgentXの主張も公開ダッシュボードに載っており、少なくとも反証の余地は開かれています。
パートナー関連の発表が残りを埋めました。AmazonのAnnapurna LabsはNVHBMカスタムメモリを共同開発し、d-MatrixはNVLink FusionでRaptor XPUをVera CPUに接続します。Pinterestは対話型ビジュアル検索の裏側にBlackwellとDynamoを据えています。NVIDIAがVera Rubinを本格量産段階だと明言している以上、残りを見極める独立した実測値もほどなく出てくるはずです。
FAQ
メガワットあたりトークンとは何ですか?
チップ数やピークFLOPSではなく、消費電力で割った処理量です。資本ではなく系統連系が拡張の上限を決める環境では、契約した1メガワットがどれだけ売り物になる出力を生むかを示します。ハードウェアの仕様よりも売上に近い数字です。
DSX MaxLPSはLambdaのクラスターをどれだけ改善しましたか?
Lambdaは通常フルパワーの16ノードに割り当てる電力枠で19ノードを稼働させました。クラスター全体のトークン処理量は毎秒約400万から500万へおよそ24%伸び、ワットあたり性能は23%向上しています。NVIDIAはこれをBlackwellサーバーでMaxLPSを検証した最初の事例だと説明しています。
SemiAnalysisのAgentXはMLPerfとどう違いますか?
異なります。AgentXはツール呼び出しやサブエージェントの生成を含め、エージェントの一連の動きを丸ごと再生します。MLPerf Inferenceは幅広いモデルとシナリオでリクエスト単位の性能を採点します。NVIDIAは、同じハードウェアについて異なる問いに答えるものとして両者を補完関係に位置づけています。
