🇺🇸 English 🇰🇷 한국어 🇯🇵 日本語
ホーム › 開発者ツール
開発者ツール

llama.cpp、1.0到達 3年半で「安定API」を約束

ローカルAIの推論エンジンllama.cppとテンソルライブラリggmlが2026年11月13日、v1.0.0を公開した。セマンティックバージョニングを採用し、互換性を壊すAPI変更はメジャーバージョンでのみ出す。非推奨関数35個を削除し、FP8のKVキャッシュや新モデル対応を加えた。

ローカルAIソフトの多くが土台に使うオープンソースの推論エンジン「llama.cpp」が11月13日、バージョン1.0.0に到達した。演算を担うテンソルライブラリ「ggml」も同日に1.0.0を公開した。ハギングフェイスのggml-orgチームは、開始から約3年半での節目とともに、今後は公開インターフェースを壊す変更をメジャーバージョンの引き上げで示すと約束した。

ポイント

  • libllamaとlibggmlの2つのライブラリがv1.0.0からセマンティックバージョニングを採用し、番号を見るだけで更新が既存コードを壊すかどうか判断できるようになった。
  • 非推奨の関数35個を削除し、FP8のKVキャッシュ、MoEモデル向けのホストメモリキャッシュ、新モデル対応を加えた。
  • llama.cppは150を超えるアーキテクチャのバリエーションに対応し、DockerからWingetまで8つの経路で配布される。
机の上のノートパソコンの画面にプログラムのコードが表示されている様子
ソースコードを表示したノートパソコン(資料写真)。llama.cppはC/C++で書かれ、ノートPCからサーバーまで幅広い機器でモデルを動かす。 · 사진: Tirza van Dijk tirzavandijk / 위키미디어 공용(CC0 1.0)

llama.cpp 1.0が開発者に約束したこと

llama.cppはこれまでビルド番号中心で版を管理しており、直前の番号付きリリースはllama.cpp v0.9.0とggml v0.29.0だった。チームは発表で「多くの下流アプリケーションがすでに我々の成果に依存している」とし、「柔軟でありながら安定したAPIが何より重要だ」と述べた。

ggml-orgプロジェクトのセマンティックバージョニング規則(ハギングフェイスのブログ、2026年11月13日)
区分番号を上げる場合
メジャー./include内の公開C APIの互換性を壊す変更
マイナー後方互換の機能追加、バックエンド更新、モデル対応、API追加
パッチAPIの変更を伴わないバグ修正

チームは、両ライブラリともAPIとABIの非互換をこの方式で反映し、利用が広がるにつれてその境界を「より厳格に」示していくとしている。

v1.0.0のリリースノートで何が変わったか

llama.cppのリリースノートによると、安定性の約束に先立ち整理が行われた。プルリクエスト30565はllama_set_warmupと非推奨関数35個、defrag_tholdオプションを削除し、NextNの投機的デコーディングAPIをメインヘッダーのllama.hに移した。

新機能はFP8のKVキャッシュと、CPUの分担比率を設定できるMoE(混合エキスパート)モデル向けのホストメモリ・エキスパートキャッシュである。テキストモデルのKimi-K3.1-Pro、Ripple-65B-Preview、xing4_0に加え、音声合成のdrama-3と2つの視覚モデルにも新たに対応した。

内蔵サーバーのllama-serverは、CORS、DNSリバインディング、サーバーサイド・リクエスト・フォージェリ(SSRF)に関する修正を受け、クライアントの切断時にはMCPツールの呼び出しを取り消す。OpenAI互換の/v1/audio/speechエンドポイントも加わった。ウェブ画面には名前付きのチャットグループと、リアルタイムプレビュー付きのMarkdownエディターが入った。

ggml 1.0.0のノートには、FP8対応、YaRNの切り捨て設定、アップルのMetalでのDeepSeek-V4・V4.1向けMoEルーティング融合などが並ぶ。

安定版がローカルAIにもたらす意味

プロジェクトによると、llama.cppは150を超えるアーキテクチャのバリエーションと主要な投機的デコーディング手法のすべてに対応する。CIはエヌビディア、AMD、クアルコム、Arm、IBM、インテルのハードウェア支援を受けたセルフホスト環境で動いている。

配布は5つのOS向けプレリリース成果物と、Docker、Debian、Homebrew、conda-forge、MacPorts、Winget、XCFrameworkで行われる。

今後の見通し

本当の試金石は次の互換性破壊の変更だ。チームが規則を守れば、公開C APIから何かを外す変更は通常の更新ではなくv2.0.0として出ることになる。llama.cppをリンクして使う開発者は、まずプルリクエスト30565で削除された関数を確認するとよい。

よくある質問

llama.cppはAIモデルなのか。
違う。主にGGUF形式のモデルを手元の機器で動かす推論エンジンである。

1.0.0に上げるにはコードの修正が必要か。
llama_set_warmupなど、プルリクエスト30565で削除された関数を使っている場合に限って修正が必要だ。

参考資料

#llama.cpp #ggml #ローカルLLM #ローカルAI #セマンティックバージョニング #Hugging Face #ハギングフェイス #オープンソース #GGUF #推論エンジン
チ
チョン・スン
AI Newsway · 開発者

AI Newswayの編集責任者です。AI、開発ツール、クラウド、生産性テクノロジーの記事を執筆しています。

この記者の他の記事 ›
著作権者 © AI Newsway 無断転載・再配布、AI学習・活用禁止
共有
f X K

コメント 0

現在コメントの投稿は無効になっています。

最初のコメントを書いてみましょう。