跳到正文
熱點事件持續更新

Runcrate 測試 Qwen 啟動時間

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月29日,Runcrate 團隊公佈在一部 L40S 上測量 Qwen2.5-7B-Instruct 的啟動時間,並比較從 Hugging Face 新下載及使用本地快取的情況。新下載時,首個 token 約需 48–55 秒;其中下載階段約需 30 秒,將 15.24 GB 權重載入 GPU 約需 14 秒。使用本地快取時,首個 token 約需 18–19 秒,快取命中時下載檢查約需 0.1 秒。這組測試數據顯示,在該次 L40S 測試中,本地快取的首 token 時間短於新下載情況。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月29日
  1. DEV Community
    Runcrate L40S 測試比較 Qwen2.5-7B-Instruct 新下載與本地快取的首 token 時間

    Runcrate 團隊在一部 L40S 上測量 Qwen2.5-7B-Instruct 的啟動時間,從 Hugging Face 新下載時首個 token 約需 48–55 秒,使用本地快取則約需 18–19 秒。新下載階段約需 30 秒,將 15.24 GB 權重載入 GPU 約需 14 秒;快取命中時,下載檢查約需 0.1 秒。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。