熱點事件持續更新
Zyphra介紹階層式注意力方法
1 篇報道1 個報道來源4 小時前更新
先了解這件事
AI 綜述
2026年11月3日，Zyphra Research介紹階層式注意力（ZHA），一種透過階層樹搜尋相關 token 的稀疏注意力方法；在合適的 top-p 路由閾值下，其複雜度可達次二次。ZHA可透過只使用數十億級 token 的蒸餾階段，改造現有預訓練模型。報道稱，該方法在高稀疏度下，仍能於長上下文推理、智能體編碼及檢索基準維持高水平表現。效能模型顯示，ZHA在超長上下文中的速度更快，計算成本亦大幅低於其他稀疏注意力方法。
AI 根據報道生成 · 3 小時前更新
最新進展11月3日 06:31
Zyphra Research介紹ZHA，效能模型顯示其在超長上下文中速度更快、計算成本更低。報道時間線
沿着報道，瞭解事件的不同側面。
11月3日
- Zyphra ResearchZyphra Hierarchical Attention（ZHA）：階層式注意力
Zyphra Hierarchical Attention（ZHA）是一種透過階層樹搜尋相關 token 的稀疏注意力方法，在合適的 top-p 路由閾值下達到次二次複雜度。它可透過只使用數十億級 token 的蒸餾階段改造現有預訓練模型，並在高稀疏度下維持長上下文推理、智能體編碼及檢索基準的高水平表現。效能模型顯示，ZHA 在超長上下文中的速度更快，計算成本亦大幅低於其他稀疏注意力方法。
本事件熱度走勢
當前熱度 9·可比範圍峯值 10（11月3日 07:00）·近 24 小時可比範圍變化 –
趨勢僅比較持續完整觀測到的相同主體，範圍可能小於當前熱度統計。移動指針或點擊圖表查看每小時熱度；鍵盤可用左右方向鍵切換。