熱點事件持續更新
vLLM並發測試顯示RTX 3090每token成本下降
1 篇報道1 個報道來源3 小時前更新
先了解這件事
AI 綜述
2026年10月28日，DEV Community一篇報道介紹作者在同一張RTX 3090上的vLLM測試。作者以每小時$0.259租用該顯示卡，使用vLLM 0.27.1為Qwen2.5-7B-Instruct提供服務。測試中，並發請求數由1增至64，輸出速度由每秒40 tokens升至878 tokens；每1M輸出tokens的成本則由$1.81降至$0.08。報道稱，在這項測試中，並發提高後每token成本低22倍。
AI 根據報道生成 · 3 小時前更新
最新進展10月28日 13:42
測試顯示，並發請求增至64時，輸出速度升至878 tokens/s，每1M輸出tokens成本降至$0.08。報道時間線
沿着報道，瞭解事件的不同側面。
10月28日
- DEV Community同一張 RTX 3090 上，每 token 成本低 22 倍：並發如何影響 vLLM 成本
作者以 $0.259/hour 租用一張 RTX 3090，使用 vLLM 0.27.1 服務 Qwen2.5-7B-Instruct；測試顯示，並發請求由 1 增至 64 時，輸出速度由 40 tokens/s 升至 878 tokens/s，每 1M 輸出 tokens 成本則由 $1.81 降至 $0.08。
本事件熱度走勢
當前熱度 9·可比範圍峯值 10（10月28日 14:00）·近 24 小時可比範圍變化 –
趨勢僅比較持續完整觀測到的相同主體，範圍可能小於當前熱度統計。移動指針或點擊圖表查看每小時熱度；鍵盤可用左右方向鍵切換。