跳到正文
熱點事件持續更新

llm-d 1.0 發布,擴展分散式推理支援

3 篇報道3 個報道來源13 分鐘前更新

先了解這件事

AI 綜述

2026年10月20日20:00,IBM Research 報道,llm-d 項目貢獻者在 PyTorch Conference North America 宣佈 llm-d 1.0,將這套 Kubernetes 原生分散式推理服務系統推進至支援生產環境運作的版本。同一時間,SiliconANGLE 報道新版本新增面向企業自建模型服務的多租戶、不中斷升級及 Agent 工作負載控制,並可在 GPU 記憶體、CPU 記憶體和儲存裝置之間移動快取資訊。21:09,Unite.AI 報道 llm-d 1.0 已在同一會議發佈,並稱這套 Kubernetes 原生分散式推理服務堆疊旨在支援任意模型、加速器及雲端環境。

AI 根據報道生成 · 10 分鐘前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月20日
  1. Unite.AI
    llm-d 1.0 在 PyTorch Conference North America 發佈 Kubernetes 原生分散式推理服務堆疊

    llm-d 項目貢獻者於 2026 年 10 月 20 日在 PyTorch Conference North America 發佈 llm-d 1.0,這是一套 Kubernetes 原生分散式推理服務堆疊,旨在支援任意模型、加速器及雲端環境。

  2. SiliconANGLE
    IBM 等貢獻者發佈分散式推理框架 llm-d 1.0,新增企業自建服務控制功能

    llm-d 項目發佈 1.0 版分散式 AI 推理框架,新增面向企業自建模型服務的多租戶、不中斷升級及 Agent 工作負載控制。框架建基於 Kubernetes,並支援將快取資訊在 GPU 記憶體、CPU 記憶體和儲存裝置之間移動。

  3. IBM Research:AI
    llm-d 1.0 發佈,強化開源 AI 推理的生產環境支援

    llm-d 項目貢獻者在 PyTorch Conference North America 宣佈 llm-d 1.0,將這個 Kubernetes 原生分散式推理服務系統推進至支援生產環境運作的版本。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。