熱點事件持續更新
Zyphra 發表 MI355X 推理優化研究
1 篇報道1 個報道來源2 小時前更新
先了解這件事
AI 綜述
2026年10月21日,Zyphra Research 發表 Inference Wave 2 研究,展示在 MI355X 上進行 MoE 與長上下文推理服務優化。報道稱,Zyphra 的 ZOE 第二輪優化,令 GLM-5.3 在 512K tokens 上下文下的 TTFT 加速 2.8 倍;在 prefix-cache 命中率為 90% 時,TTFT 加速 3.6 倍。研究聚焦 MoE 與長上下文推理服務,所列測試結果集中於 MI355X 上的 GLM-5.3;兩項加速數據分別對應 512K tokens 上下文,以及 90% prefix-cache 命中條件。
AI 根據報道生成 · 2 小時前更新
最新進展10月21日 01:01
Zyphra 發表 Inference Wave 2,公佈 ZOE 第二輪優化在 MI355X 上的 TTFT 加速數據。報道時間線
沿着報道,瞭解事件的不同側面。
10月21日
- Zyphra ResearchZyphra 發表 Inference Wave 2 研究,展示 MI355X 上的 MoE 與長上下文推理服務優化
Zyphra 的 ZOE 第二輪優化令 MI355X 上 GLM-5.3 在 512K tokens 上下文的 TTFT 加速 2.8x,90% prefix-cache 命中時加速 3.6x。
本事件熱度走勢
還沒有足夠的連續觀測數據,暫不繪製趨勢。