熱點事件持續更新
llama-swap 模型切換引發 502 已排除
1 篇報道1 個報道來源3 小時前更新
先了解這件事
AI 綜述
2026-10-18 23:45 的值班記錄指出，llama-swap 切換模型需時 29.4 秒，碰上 nginx 的 30 秒逾時，nginx 提前關閉連線並引發 502 錯誤。報道稱，調校 nginx 逾時設定並加入模型預載後，錯誤降至 0，P99 延遲由 29 秒降至 1.2 秒；暖機請求的 TTFT 維持 180ms。
AI 根據報道生成 · 3 小時前更新
最新進展10月18日 23:45
調校 nginx 逾時設定並加入模型預載後，錯誤降至 0。報道時間線
沿着報道，瞭解事件的不同側面。
10月18日
- DEV Communityllama-swap 模型重新載入撞上 30 秒逾時：凌晨 2 時值班記錄
llama-swap 切換模型耗時 29.4 秒，令 nginx 提前關閉連線並引發 502 錯誤。調校 nginx 逾時設定並加入模型預載後，錯誤降至 0，P99 延遲由 29 秒降至 1.2 秒；暖機請求的 TTFT 維持 180ms。
本事件熱度走勢
當前熱度 9·可比範圍峯值 10（10月19日 00:00）·近 24 小時可比範圍變化 –
趨勢僅比較持續完整觀測到的相同主體，範圍可能小於當前熱度統計。移動指針或點擊圖表查看每小時熱度；鍵盤可用左右方向鍵切換。