熱點事件持續更新
語音智能體預熱未明顯加快首次回覆
1 篇報道1 個報道來源2 小時前更新
先了解這件事
AI 綜述
2026年10月29日，Sherlock Holmes 團隊分享測試結果，指出 LLM 預熱未能明顯縮短首次回覆時間，因此停用所有通話的 LLM 預熱。啟用預熱時，p50 為 1,163 ms、p95 為 2,149 ms；停用時，p50 為 1,235 ms、p95 為 2,118 ms，即啟用預熱時 p50 較低、p95 較高。GPT-5.1 預熱回覆約有 98% 命中快取，但每次仍須逐 token 生成回覆。團隊亦移除不會重用音訊連線的語音轉文字預熱，並只在服務會保留連線時使用文字轉語音預熱。
AI 根據報道生成 · 2 小時前更新
最新進展10月29日 20:51
團隊停用所有通話的 LLM 預熱，並調整語音預熱策略。報道時間線
沿着報道，瞭解事件的不同側面。
10月29日
- DEV CommunitySherlock Holmes：語音智能體預熱為何沒有加快首次回覆
團隊發現 LLM 預熱未明顯加快首次回覆，最終停用所有通話的 LLM 預熱。啟用預熱時 p50 為 1,163 ms、停用時為 1,235 ms，p95 分別為 2,149 ms 和 2,118 ms；GPT-5.1 預熱回覆約 98% 命中快取，但每次仍須逐 token 生成回覆。團隊移除了不會重用音訊連線的語音轉文字預熱，並只在服務會保留連線時使用文字轉語音預熱。
本事件熱度走勢
當前熱度 9·可比範圍峯值 10（10月29日 21:00）·近 24 小時可比範圍變化 –
趨勢僅比較持續完整觀測到的相同主體，範圍可能小於當前熱度統計。移動指針或點擊圖表查看每小時熱度；鍵盤可用左右方向鍵切換。