跳到正文
gihyo.jp·· 8 天前AI 評分61

llama.cpp 發佈 1.0.0,ggml 同步升至 1.0.0 並明確 API、ABI 不相容變更規則

llama.cpp 1.0.0リリース ——API・ABIの非互換変更をメジャーバージョンの更新で明示へ

AI 導讀

llama.cpp 開發團隊於 2026年11月13日發佈首個主版本 1.0.0,計算函式庫 ggml 亦同步升至 1.0.0。兩個函式庫日後以主版本號標示公開 API、ABI 不相容變更;1.0.0 亦從 llama.h 移除 35 個已棄用函數。llama-server 新增語音合成用的 /v1/audio/speech 端點,Web UI 加入具名聊天羣組及 Markdown 編輯器。

正文

llama.cppの開発チームは2026年11月13日、初のメジャー版となる1.0.0をリリースした。llama.cppは、大規模言語モデル(LLM)の推論を実行するC/C++製ライブラリで、計算を支えるテンソルライブラリggmlも同時に1.0.0となった。あわせて、今後は両ライブラリの公開API・ABIに互換性のない変更を加える際に、メジャーバージョンを更新すると案内した。

llama.cppは、個人向けPCから企業向けサーバーまで、幅広いハードウェアに対応するオープンソースプロジェクト。今回の発表時点で、派生形を含めて150種類を超えるモデルアーキテクチャに対応している。

開発はGitHub上の組織ggml-orgで進められている。開発を主導してきた企業ggml.aiのチームは、2026年2月にHugging Faceへの参加を発表した[1]。その際、Hugging Faceの長期的な支援を受けて開発・保守を続け、技術や設計については引き続きコミュニティが自主的に決めると述べていた。

API⁠・ABIの互換性を示すバージョン管理

開発開始から約3年半がたち、llama.cppは他のアプリケーションへの組み込みが進んできた。今回の発表では、こうした利用の広がりを背景に、APIの柔軟性と安定性の両立が重要になっていると説明した。

バージョン管理の対象は、LLM推論用のlibllamaと、その計算を支えるlibggml。ライブラリの更新でAPI・ABI[2]の互換性が失われると、これらを組み込むアプリケーションではコードの修正や再ビルドが必要になる場合がある。

開発チームは、互換性に関わる変更を組み込み先の開発者に伝えるため、今後は次の規則でバージョン番号を更新すると案内した。番号は「メジャー.マイナー.パッチ」の形式で表す[3]。

  • メジャー:公開API・ABIの互換性を損なう変更。
  • マイナー:後方互換性のある機能やAPIの追加、バックエンドの更新、モデル対応。
  • パッチ:APIを変更しない不具合修正。

非推奨APIの削除とサーバー⁠・Web UIの更新

1.0.0では、公開ヘッダーのllama.hから35個の非推奨関数やllama_set_warmupなどが削除されたため、これらを呼び出すコードは移行時に見直す必要がある。

このほか、推論サーバーのllama-serverに、音声合成用の/v1/audio/speechエンドポイントを追加した。同サーバーのWeb UIには、チャットを名前付きグループにまとめる機能や、チャットの入力内容をプレビューできるMarkdownエディターを導入した。

検証体制を強化し⁠、幅広いモデルへの対応を継続

開発チームは今回の発表で、LLMを開発工程に取り入れながらも、コードの品質を保ち、設計を自分たちで決め、実装の詳細を理解することを引き続き最優先にすると説明した。開発のペースが速まる中、コード変更を検証する継続的インテグレーション(CI)の基盤への投資も続けている。具体的には、Hugging Faceのサービスを利用し、ハードウェア各社からも支援を受けながら、主要なハードウェアでコードを自動検証する環境を増やしているという。

llama.cppを立ち上げたGeorgi Gerganov氏はXで公開を告知し、ローカルAIの将来に向けた強固な基盤を築いたと述べた。両ライブラリを使って開発者が何を作るかに期待を寄せている。また、公式発表記事を共同執筆したmerve氏もXで、llama.cppを使う開発者のために、ライブラリの堅牢さと軽量さを保ちながら、あらゆるプラットフォームとモデルへの対応を続けるというチームの方針を紹介した。

Today's release marks the first major version of llama.cpp and ggml.

We have created a strong foundation for the future of local AI. Looking forward to what you will build on top of it! pic.twitter.com/f8huLdRbhI

— Georgi Gerganov (@ggerganov) November 13, 2026

Hugging Face CEOのClement Delangue氏は、コミュニティとともにオープンに開発を進めると述べた。利用者の手元でAIを動かせるようにすることで、AIが一部の企業に集中するのを避けられると説明している。同社CTOのJulien Chaumond氏は、ローカルAIやプライバシー、AIを自ら管理できることが今後ますます重要になると述べている。

來源:gihyo.jp · gihyo.jp