Grassmann 無注意力序列模型研究

2026年10月26日，Hacker News 熱門（buzzing.cc 中文翻譯）刊出一項研究介紹，提出一種以 Grassmann 流為基礎、無需注意力的序列模型架構。模型透過 Grassmann 流形上的低秩子空間傳遞資訊。報道稱，研究在 Wikitext-2 上測試參數量為 13 至 18 million 的純 Grassmann 模型，其驗證困惑度與參數量相近的 Transformer 相差約 10% 至 15%。報道未説明困惑度差異的方向；目前內容所述進展限於這項架構及基準測試結果。

AI 根據報道生成 · 47 分鐘前更新

還沒有足夠的連續觀測數據，暫不繪製趨勢。