跳到正文
熱點事件持續更新

Dynamo 1.6.2 調整超長提示詞錯誤回應

1 篇報道1 個報道來源10 小時前更新

先了解這件事

AI 綜述

2026年11月21日的報道指出,NVIDIA Dynamo v1.6.2 調整了 TensorRT-LLM 對超出 max_num_tokens 的提示詞所回傳的錯誤碼:此前為 HTTP 500,更新後改為 HTTP 400。報道同時指出,這類錯誤發生時,worker 會繼續運行;因此,變化包括錯誤回應碼的調整,以及 worker 不因該錯誤停止運行。報道標題提及錯誤碼對重試負載的影響,亦提及 SGLang worker 的選擇性 GC 凍結,但所提供的報道正文沒有交代這些部分的具體情況或其他進展。目前可確認的進展,是上述版本對這類提示詞錯誤的處理方式有所改動。

AI 根據報道生成 · 10 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

11月21日
  1. DEV Community
    Dynamo 1.6.2 如何把超大提示詞的 HTTP 500 改為 400:錯誤碼如何影響重試負載,以及 SGLang worker 的選擇性 GC 凍結

    NVIDIA Dynamo v1.6.2 將 TensorRT-LLM 超出 max_num_tokens 的提示詞錯誤由 HTTP 500 改為 HTTP 400,並讓 worker 繼續運行。

本事件熱度走勢

當前熱度 8·可比範圍峯值 10(11月21日 23:00)·近 24 小時可比範圍變化 –

02.557.51011月21日23:0011月22日02:0011月22日04:0011月22日07:00

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指針或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。