跳到正文
熱點事件持續更新

LightningMoBA提升MoBA運算效能

2 篇報道2 個報道來源4 小時前更新

先了解這件事

AI 綜述

2026年11月19日,HuggingFace Daily Papers介紹LightningMoBA,指它結合動態路由、KV重用及執行時流水線,以提升MoBA的GPU注意力計算效率。報道稱,在五個模型、4K至128K上下文長度及完整RULER測試中,與FlashMoBA相比,平均端到端速度提升1.20–1.60×,平均RULER分數由74.42升至75.28。11月22日,DEV Community報道一項50k-token故事生成演示:LightningMoBA每步延遲為1.1秒,較FlashMoBA減少71%;實際基準測試則錄得2.2–2.7×吞吐量提升,perplexity與基準相近。兩篇報道列出的速度數字分別是端到端速度與吞吐量,測試情境亦不同。

AI 根據報道生成 · 4 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

11月22日
  1. DEV Community
    LightningMoBA:50k-token 故事生成延遲降低 71%,數秒完成

    LightningMoBA 在 50 k-token 故事生成演示中,將每步延遲降至 1.1 秒,較 FlashMoBA 減少 71%。其動態路由、KV-centric execution 和 runtime pipelining,在實際基準測試中帶來 2.2–2.7× 吞吐量提升,perplexity 與基準相近。

11月19日
  1. HuggingFace Daily Papers(社區熱門論文)
    LightningMoBA:透過動態路由、以 KV 為核心的執行及執行時流水線加速 MoBA

    LightningMoBA結合動態路由、KV重用及流水線執行,提升MoBA的GPU注意力計算效率。於五個模型、4K至128K上下文及完整RULER測試中,相較FlashMoBA平均端到端速度提升1.20–1.60×,平均RULER分數由74.42升至75.28。

本事件熱度走勢

當前熱度 9·可比範圍峯值 10(11月22日 04:00)·近 24 小時可比範圍變化 –

02.557.51011月20日18:0011月21日06:0011月21日19:0011月22日07:00

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指針或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。