熱點事件持續更新
可微分軟剪枝讓 Transformer 按預算調整
1 篇報道1 個報道來源2 小時前更新
先了解這件事
AI 綜述
2026年10月16日，DEV Community 報道一項針對 Transformer 編碼器的研究，提出可微分軟剪枝方法，為模型中的神經元及注意力頭評分和排序，讓單一預訓練模型可按推理運算預算調整，毋須重新訓練或更新權重。研究評估涵蓋 27 個視覺及文字編碼器，參數規模由 22M 至 8B。報道指出，在 AugReg ViT-B/16 上，稀疏度達 60% 時，吞吐量最高達原密集模型的 1.80x，單次查詢延遲降低 1.26x。
AI 根據報道生成 · 2 小時前更新
最新進展10月16日 00:46
研究提出毋須重新訓練的可微分軟剪枝，並報告 AugReg ViT-B/16 的效能數據。報道時間線
沿着報道，瞭解事件的不同側面。
10月16日
- DEV Community彈性 Transformer 無需重新訓練：可微分軟剪枝為每個神經元及注意力頭排序
研究提出可微分軟剪枝，為 Transformer 編碼器的神經元和注意力頭評分排序，令單一預訓練模型可按推理運算預算調整，毋須重新訓練或更新權重。評估涵蓋 22M 至 8B 參數的 27 個視覺及文字編碼器；AugReg ViT-B/16 在 60% 稀疏度下，吞吐量最高達原密集模型的 1.80x，單次查詢延遲降低 1.26x。
本事件熱度走勢
還沒有足夠的連續觀測數據，暫不繪製趨勢。