熱點事件持續更新
Runcrate 測試 Qwen 啟動時間
1 篇報道1 個報道來源2 小時前更新
先了解這件事
AI 綜述
2026年10月29日,Runcrate 團隊公佈在一部 L40S 上測量 Qwen2.5-7B-Instruct 的啟動時間,並比較從 Hugging Face 新下載及使用本地快取的情況。新下載時,首個 token 約需 48–55 秒;其中下載階段約需 30 秒,將 15.24 GB 權重載入 GPU 約需 14 秒。使用本地快取時,首個 token 約需 18–19 秒,快取命中時下載檢查約需 0.1 秒。這組測試數據顯示,在該次 L40S 測試中,本地快取的首 token 時間短於新下載情況。
AI 根據報道生成 · 2 小時前更新
最新進展10月29日 11:24
測試顯示,本地快取時首個 token 約需 18–19 秒,新下載時則約需 48–55 秒。報道時間線
沿着報道,瞭解事件的不同側面。
10月29日
- DEV CommunityRuncrate L40S 測試比較 Qwen2.5-7B-Instruct 新下載與本地快取的首 token 時間
Runcrate 團隊在一部 L40S 上測量 Qwen2.5-7B-Instruct 的啟動時間,從 Hugging Face 新下載時首個 token 約需 48–55 秒,使用本地快取則約需 18–19 秒。新下載階段約需 30 秒,將 15.24 GB 權重載入 GPU 約需 14 秒;快取命中時,下載檢查約需 0.1 秒。
本事件熱度走勢
還沒有足夠的連續觀測數據,暫不繪製趨勢。