🇺🇸 English 🇰🇷 한국어 🇯🇵 日本語
ホーム › テック&ビジネス
テック&ビジネス

エヌビディア自社の工場計画で、30Bモデルが550Bモデルを上回った

エヌビディアとパランティアが、自社の資材配分業務でファインチューニングした30Bモデルが86.7%、汎用の550Bモデルが55.5%という精度差を公表した。

エヌビディア自社の工場計画で、30Bモデルが550Bモデルを上回った
▶ Nvidia's Santa Clara headquarters, where the supply-chain operations team's historical decisions became the training data for the Nemotron model now recommending allocation calls.

エヌビディアとパランティアが9月10日に発表したサプライチェーン連携で最も興味深い数字は、金額でも顧客数でもない。精度の差です。不足する部品をどこへ回すかを決める業務で、エヌビディア自身の過去の判断を学習した300億パラメータのモデルが86.7%、5500億パラメータの汎用モデルが55.5%にとどまりました。

要点

  • 事後学習を施したNemotron 3.5 Lightning(30B)はエヌビディアの資材配分タスクで86.7%を記録し、同じ業務でNemotron 3 Ultra(550B)は55.5%でした。
  • エヌビディアの技術陣は、同じファインチューニングを経ても生産リスクの予測は依然として不安定だったと述べ、主張の範囲を自ら限定しています。
  • パランティアの顧客は自社データで同じ構成を再現しつつ、重みもデータも推論も自社インフラ内に保持できます。

パラメータ数が負けた理由

両モデルの規模差はおよそ18倍で、この結果はスケーリングへの反証のように読めます。しかし規模ではなく範囲の話として読むほうが正確です。エヌビディアのソリューションアーキテクト、ネル・バーバー氏、ラナ・ハーバー氏、アースタ・ジュンジュンワラ氏は、自社ベンチマークに異例なほど率直な但し書きを添えました。優位性は事後学習を行った単一ドメインに閉じており、どの生産ラインが間もなく支障をきたすかを予測する作業は相変わらず困難だというのです。つまりファインチューニングは意思決定タスクを押し上げた一方、隣接する予測タスクはほぼそのまま残しました。

この非対称性こそ、導入規模を検討する側にとっての実務的な発見です。配分は正解の履歴が社内に長く蓄積された境界の明確な問題であり、特化が報われる典型的な形をしています。予測はそうではありません。

スタックの組み方

Nemotronはこのシステムのエンジンではなく、最も小さな部品です。土台はパランティアのFoundryとAIP(人工知能プラットフォーム)が担い、同社のOntologyが部品、工場、余剰能力、顧客にすでに約束した数量をリアルタイムの構造マップとして保持します。限られた供給を競合する需要へ振り分ける組合せ最適化は、エヌビディアのcuOptソルバーが処理します。

言語モデルの役割は、この連鎖の末端での判断です。周辺状況を読み取って行動案を示し、人間のプランナーがそれを承認するか覆します。両社はこの組み合わせをサプライチェーン部門向けの単一の操作画面として売り込んでおり、資材配分は製品全体ではなく最初のユースケースという位置づけです。

エヌビディアが自社を試験台にした理由

時価総額5兆4000億ドルは、とりわけ過酷な試験環境も一緒に抱え込みます。数千社のサプライヤーと世界規模の製造網が部品を送り込み、ラックに入る部品をエヌビディアは数百万点単位で数えます。Vera Rubin一台でおよそ130万点です。失敗の形は残酷なほど単純で、部品が一つ欠ければ組み立ては止まり、届いた部品は倉庫で価値を落としていきます。

エヌビディア創業者兼最高経営責任者のジェンスン・フアン氏は、この調整負担こそAI基盤構築の真のボトルネックだと指摘しました。同氏はサプライチェーンを実体経済のオペレーティングシステムと呼び、AIファクトリーをこれまで組み上げられた中で最も複雑なシステムの一つだと表現しています。パランティア最高経営責任者のアレックス・カープ氏は予想どおり、獲得した顧客の難度を強調し、エヌビディアのサプライチェーンを世界で最も込み入ったものと評しました。

導入企業に何ができるのか

提携も主権という枠組みも、今回始まったものではありません。エヌビディアとパランティアは昨年10月にモデルとソフトウェアを結び付け、6月には管理環境での展開へ広げ、今回は数値の付いたリファレンス構成を示しました。この順序は商業的に重要です。6月の発表が機能だったのに対し、今回は数字を伴う事例だからです。

再現するには、FoundryとAIPを介して自社の運用履歴でNemotronを学習させ、データをどれだけ厳密に囲い込む必要があるかに応じて、オンプレミス、コロケーション施設、あるいはクラウドに載せることになります。農業、製造、製薬、小売、テクノロジー、政府が名指しされた対象であり、このスタックはパランティアのAIPCon 11でも取り上げられる予定です。

こうした可搬性は、エヌビディアが重みを、そしてNemotronファミリーの多くについては学習レシピまで公開しているからこそ成立します。同社はこの1年、まさにこの論拠でフロンティア級のオープンウェイトモデルを擁護し、9月初旬には129億ドルでHugging Faceを買収しました。小さなオープンモデルが勝つサプライチェーン事例は、その立場を補強する最良の広告というわけです。一次情報は両社の共同ニュースリリースで、ベンチマークの詳細はThe New Stackの報道が伝えています。

FAQ

Nemotron 3.5 Lightningはオープンソースですか

オープンウェイトという表現が正確です。エヌビディアは重みを配布し、ファミリーの多くでは学習データとレシピも公開しています。これが自社データでのファインチューニングを可能にしている条件です。ただし適用される条項はOSI承認ライセンスではなく、エヌビディア独自のモデルライセンスです。

大規模モデルの利用をやめるべきという意味ですか

いいえ。86.7%という数字は、ラベル付き履歴が豊富な一つの狭い配分タスクに限られます。エヌビディア自身の解説も、この改善は一般化しないと明記しています。同じプロジェクト内の予測タスクは、同じ処方に反応しませんでした。

ここでいう主権とは何を指しますか

地理ではなく管理権を指します。顧客の独自データ、モデルの重み、推論のすべてが顧客の統制下にあるインフラ内にとどまるという意味で、それがオンプレミスのクラスターでも専用のコロケーション設備でも変わりません。

チ
チョン・スン
AI Newsway · 記者

ZZEMが運営するAI Newswayの編集責任者です。AI、開発ツール、クラウド、生産性テクノロジーの記事を執筆しています。

この記者の他の記事 ›
著作権者 © AI Newsway 無断転載・再配布、AI学習・活用禁止
共有
f X K

コメント 0

現在コメントの投稿は無効になっています。

最初のコメントを書いてみましょう。