🇺🇸 English 🇰🇷 한국어 🇯🇵 日本語
ホーム › LLM & チャットボット
LLM & チャットボット

Edge0、1450億パラメータAIを公開 GPU1枚で動作

Edge0は11月12日、1450億パラメータのEdge0-145BとEdge0-120Bを公開した。消費者向けGPU1枚やノートPCでコーディングやエージェント作業を実行できるとするが、数値は自社測定で、重みは商用サービスを制限するライセンスに従う。

オンデバイスAIを開発するEdge0は11月12日(現地時間)、1450億パラメータの言語モデル「Edge0-145B」と、1200億パラメータの「Edge0-120B」の重みを公開した。同社によると、両モデルは消費者向けグラフィックスカード1枚や十分な性能のノートPCで、コーディングやエージェント作業を実行できる。ただし、現時点の性能値はすべて同社の自社測定である。

ポイント

  • Edge0-145Bは1450億パラメータのうち1トークンあたり約100億だけを使う混合エキスパート(MoE)構造で、最初から4ビット精度で学習された。
  • 同社はノートPCでピークメモリ29GB・毎秒80トークン超、RTX 5090 D(24GB)でエージェント生成速度毎秒98.3トークンを達成したとしている。
  • 推論フレームワークはApache-2.0だが、モデルの重みは商用モデルサービスや再販を制限する独自ライセンスに従う。
エヌビディアのGeForce 7600チップを搭載したエイスースのデスクトップ用グラフィックスカード
消費者向けグラフィックスカード(資料写真)。Edge0は、よく使うエキスパートだけをビデオメモリに置くことで、24GBのカード1枚でEdge0-145Bを動かせると説明する。 · 사진: MKFI / 위키미디어 공용(퍼블릭 도메인)

1450億パラメータをGPU1枚に収める仕組み

Hugging FaceのEdge0-145Bモデルカードによると、同モデルは48層で、各層に512個のエキスパートを持つ。1トークンの処理で動くのはルーティングされた10個と共有エキスパート1個だけで、アクティブパラメータは101億2000万となる。コンテキスト長は25万6000(256K)トークン、ベースモデルはQwen3.8-Flash-Nextである。

Edge0はこの設計を「潜在(latent)MoE」と呼ぶ。公式発表によれば、64個のエキスパートを1グループとして大きな行列2つを共有し、保存・転送するデータ量を減らした。頻繁に使うエキスパートはGPUメモリに置き、約40GBのエキスパート群はシステムメモリに、約48GBの語彙データはSSDから必要に応じて読み込む。

機種別のEdge0-145Bエージェント生成速度(Edge0モデルカード、2026年11月)
機種ビルドエージェント生成(トークン/秒)
RTX 5090 D 24GBQ3_K121.2
RTX 5090 D 24GBNVFP498.3
RTX 4090 24GBQ3_K91.7
アップル M2 Ultra(Metal)Q3_K57.0

クラウドモデルとのベンチマーク比較

同社によると、コーディング評価DeepSWE 1.1では64.6点で、Qwen3.8-Flash-Next(58.7点)やDeepSeek-V4-Flash-0731(54.4点)を上回った。Terminal-Bench 2.1でも86.52点と、Claude-Opus-4.6(Max)の78.2点を超えた。

一方、高難度の推論では及ばない。Humanity's Last Exam(HLE)は35.4点でClaudeの40.0点を下回り、GPQA-Diamondも90.4点でQwenの91.7点に届かなかった。同社はこれらが自社評価の結果であり、競合モデルのメモリ使用量(Qwen3.8-Flash-Nextの標準4ビット展開で約70GBなど)も実測ではなく推定値だとしている。

スマホ向け35BからPC向け145Bへ

今回の公開は、9月の最初のオープンソース公開に続くものだ。当時、Edge0のGitHubリポジトリには、SSDからエキスパートの重みを読み込む35Bと8Bのプレビュー版が公開された。

ライセンスの制約と今後

モデルカードによれば、Edge0独自の部分は「Edge0 Community Model License 1.0」、Qwen由来の部分はQwen Community Licenseに従う。個人・研究・社内利用は認められるが、モデルの販売、商用モデルサービスの運営、独立した商用コーディング・オフィスアシスタントの提供には別途書面のライセンスが必要だ。

対応環境も発表より限定的である。モデルカードは、ビルド手順がLinuxとWindows上のCUDA 13対応エヌビディア製GPU向けだとし、M2 Ultraの測定値は「macOS版の提供を示すものではない」と記している。同社は評価環境の詳細をまとめた技術報告書を公開中だとしている。

よくある質問

Edge0-145Bはスマートフォンで動くのか。
動かない。同社は145Bモデルを高性能なノートPCやPC向けとし、スマホ向けは35Bと8Bのモデルだと説明している。

商用で自由に使えるのか。
一部に限られる。社内利用や生成物の商用利用は認められるが、商用モデルサービスや再販には別途ライセンスが必要だ。

参考資料

#Edge0 #Edge0-145B #オンデバイスAI #ローカルLLM #混合エキスパート #MoE #オープンウェイト #RTX 5090 #Qwen #ローカルAI
チ
チョン・スン
AI Newsway · 開発者

AI Newswayの編集責任者です。AI、開発ツール、クラウド、生産性テクノロジーの記事を執筆しています。

この記者の他の記事 ›
著作権者 © AI Newsway 無断転載・再配布、AI学習・活用禁止
共有
f X K

コメント 0

現在コメントの投稿は無効になっています。

最初のコメントを書いてみましょう。