ggml-orgは2026年11月13日、ローカル環境でAIモデルを動かす推論エンジン「llama.cpp」と、そのテンソル演算を担うライブラリ「ggml」のv1.0.0を公開した。両プロジェクトにとって初のメジャーリリースとなり、今後は公開C APIとABIに互換性のない変更が加わる場合、メジャーバージョンを更新する方針が導入された。今回の更新では、モデルの読み込みに使う旧関数などがC側から削除された一方、Python版には同じ名前で呼び出せる関数が残っている。ただし、従来の処理を引き継ぐ関数もあれば、警告を出すだけになった関数もあり、利用する言語や配布形態によって更新時の確認点が異なる。
公開C APIとABIの互換性をバージョン番号で管理
ggml-orgがセマンティックバージョニングを適用するのは、libllamaとlibggmlの公開Cインターフェースだ。関数名や引数の型などを定める公開C APIは、それぞれのinclude/ディレクトリにある公開ヘッダーファイルで定義される。一方、コンパイル済みのアプリケーションとライブラリの互換性を左右するABIには、関数のシンボル名や構造体のメモリー配置なども含まれる。そのため、ソースコード上では同じ関数を呼び出せても、構造体のフィールド配置が変われば、ビルド済みのアプリケーションが新しい共有ライブラリをそのまま利用できるとは限らない。
新しいバージョン管理方針では、公開C APIまたはABIの互換性を損なう変更があった場合にメジャーバージョンを更新する。既存の互換性を維持した新機能やバックエンド、対応モデル、APIの追加ではマイナーバージョンを、APIを変更しない不具合修正ではパッチバージョンを更新する。これにより、アプリケーション開発者は正式版のバージョン番号から、互換性の確認が必要な更新を判断しやすくなる。
今回のv1.0.0では、非推奨となっていた複数の関数が削除された。例えば、モデルファイルを読み込むllama_load_model_from_fileはv0.9.0の時点で非推奨とされ、代替となるllama_model_load_from_fileもすでに導入されていた。v1.0.0の公開ヘッダーには新しい関数名のみが残っている。移行に伴うプルリクエストでは、llama.hで非推奨とされていた35関数や、ウォームアップ用のllama_set_warmupが削除対象として挙げられた。
推論時の設定を保持する構造体からはdefrag_tholdフィールドが削除され、対応するコマンドラインオプション--defrag-tholdも廃止された。Cの構造体をPythonなどの別言語で定義し直して利用している場合、関数名だけでなく、構造体のフィールド定義も新しい仕様に合わせる必要がある。
一方、公開APIには新たな関数も加わった。その一つが、NextNなどの投機的デコードに関連する関数だ。投機的デコードは、先に生成したトークン候補を本来のモデルで検証し、承認された候補を採用することで生成処理を効率化する手法である。今回、この処理に用いる状態の受け渡しなどを担う一部の関数が、内部向けヘッダーのllama-ext.hから公開ヘッダーのllama.hへ移された。これに伴い、llama_set_embd_state_srcはllama_set_ctx_state_srcへと改名されている。
正式版と開発ビルドで異なるggmlの配布方式
ggml-orgは正式版を公開する際、llama.cppに同梱するggmlのソースコードを、公開済みのggml正式版と一致させる方針を採用した。llama.cpp v1.0.0にもggml v1.0.0が取り込まれており、両者のバージョンがそろえられている。
一方、masterブランチから生成される、bで始まる番号の開発ビルドも引き続き提供される。こちらに同梱されるggmlは、正式版とは異なる場合がある。外部のggmlライブラリにリンクしてllama.cppを配布する開発者にとって、正式版のタグは、両者のソースコードを対応するバージョンでそろえるための基準となる。
配布方式の違いは、パッケージ管理ツールにも表れている。Homebrewのパッケージ情報では、llama.cppの安定版が1.0.0となっており、依存関係にggmlが含まれている。ビルド設定では、共有ライブラリを生成するBUILD_SHARED_LIBSと、システムにインストールされたggmlを利用するLLAMA_USE_SYSTEM_GGMLが有効化され、安定版では開発ビルド向けの設定が無効になっている。
ggml-orgは、開発ビルドを同梱のggmlとともに配布する例としてWingetも挙げている。つまり、llama.cppが利用するggmlの実体は配布方式によって異なる。同梱型であれば配布されたビルドに含まれるコードが使われ、Homebrewのような構成では、配布元が依存関係として指定した別パッケージのggmlが使われる。
Python版では旧関数ごとに互換性の扱いが異なる
Pythonからllama.cppを利用する場合は、Pythonパッケージ自体のバージョンと、内部に取り込まれているllama.cppのバージョンを区別する必要がある。
11月15日にタグが付けられたllama-cpp-python v0.3.37では、vendor/llama.cppがコミットa956a852cを参照している。GitHubのコミット比較によると、このコードはllama.cpp v1.0.0を起点として、さらに28コミット進んだ状態に相当する。
このコミットを取り込んだプルリクエストのllama_cpp.pyを見ると、C側で削除された旧関数の扱いには違いがある。例えば、llama_load_model_from_fileはPython側に残されており、非推奨の警告を出したうえで、新しいllama_model_load_from_fileに引数を渡して処理を実行する。従来の関数名を使い続けても、モデルの読み込み自体は行われる。
これに対し、llama_set_warmupは警告を出すだけの関数に変更された。従来、この関数はデコード時にモデルの重みを事前に読み込むウォームアップ処理の設定に使われていた。しかし、Python側に残された同名の関数を呼び出しても、ウォームアップの指定は推論エンジンに渡されない。したがって、パッケージの更新後に旧関数名のインポートが成功しても、以前と同じ処理が実行されるとは限らない。
Python版でも、Cの構造体に対応するctypesの定義からdefrag_tholdが削除されている。また、NextN関連のバインディングも、新しい公開ヘッダーの定義に合わせて更新された。
HTTPサーバーでは認証条件と新機能に注意
llama-serverをHTTP経由で利用するアプリケーションは、OpenAI互換の/v1/chat/completionsなどのエンドポイントにリクエストを送信する。この構成では、推論を実行するCライブラリがサーバー側に組み込まれているため、クライアントとの接点となるのはサーバーのURLと各エンドポイントの仕様だ。
v1.0.0では、新たに音声生成用の/v1/audio/speechエンドポイントも追加された。ただし、この機能の利用には、対応する音声モデルをサーバーに読み込ませる必要がある。
サーバーの起動条件にも変更が加わった。v1.0.0のllama-serverでは、ループバック以外のネットワークアドレスで、組み込みツール、MCPサーバー、Web UI向けMCPプロキシのいずれかを有効にする場合、APIキーまたは--allow-unauthenticated-toolsの指定が必要になる。どちらも指定されていなければ、サーバーは起動を拒否する。
--allow-unauthenticated-toolsを指定すれば、APIキーなしでも起動できるが、開発元は信頼できるネットワークでのみ使用するよう案内している。LAN内の別端末からツール機能を利用する構成では、更新後の起動条件を確認する必要がある。
ブラウザーからアクセスする場合には、CORSの設定も関係する。同一オリジンに制限するlocalhost設定ではポート番号も照合されるため、同じPC上で動作していても、フロントエンドとサーバーでポートが異なれば別のオリジンとして扱われる。この場合は、--cors-originsにフロントエンドのオリジンを明示する必要がある。
推論処理に関する設定も拡充された。過去のトークンの情報を保持するKVキャッシュでは、キーと値の両方に8ビット浮動小数点形式のf8_e4m3を指定できるようになった。KVキャッシュは、Attention機構で過去のトークンを参照するためのキーと値を保存する仕組みであり、そのデータ形式はメモリー使用量や推論処理に影響する。
また、複数のエキスパートを切り替えて利用するMoE(Mixture of Experts)モデルでは、CPU側に配置したエキスパートの重みをGPUにキャッシュする機能に、新たな設定が加わった。v1.0.0では、GPUキャッシュが満杯になり、必要な重みがキャッシュに存在しない場合に、GPUへ転送せずCPU側で計算する割合を指定できる。これにより、GPUへのデータ転送量とCPU側の計算負荷の配分を調整できる。
更新による効果を評価する際は、まず従来の起動コマンドで必要な機能が利用できるか確認し、そのうえで同じモデル、ハードウェア、コンテキスト長を使ってキャッシュ設定を比較するのが有効だ。これにより、接続や起動条件の変更による問題と、メモリー消費量、生成速度、出力結果への影響を切り分けやすくなる。



