跳到正文
熱點事件持續更新

Zyphra 發表 MI355X 推理優化研究

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月21日,Zyphra Research 發表 Inference Wave 2 研究,展示在 MI355X 上進行 MoE 與長上下文推理服務優化。報道稱,Zyphra 的 ZOE 第二輪優化,令 GLM-5.3 在 512K tokens 上下文下的 TTFT 加速 2.8 倍;在 prefix-cache 命中率為 90% 時,TTFT 加速 3.6 倍。研究聚焦 MoE 與長上下文推理服務,所列測試結果集中於 MI355X 上的 GLM-5.3;兩項加速數據分別對應 512K tokens 上下文,以及 90% prefix-cache 命中條件。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月21日
  1. Zyphra Research
    Zyphra 發表 Inference Wave 2 研究,展示 MI355X 上的 MoE 與長上下文推理服務優化

    Zyphra 的 ZOE 第二輪優化令 MI355X 上 GLM-5.3 在 512K tokens 上下文的 TTFT 加速 2.8x,90% prefix-cache 命中時加速 3.6x。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。