跳到正文
熱點事件持續更新

NVFP4與RK4V4的記憶體取捨

1 篇報道1 個報道來源7 小時前更新

先了解這件事

AI 綜述

2026年11月19日,DEV Community 報道在配備 12GB VRAM 的 RTX 5070 Ti Laptop 上運行 Qwen3.8-27B 的測試。結果顯示,NVFP4 的峯值 VRAM 用量只比 RK4V4 低約 50–70 MiB;作者指出,差異主要源於 KV pool 配置,而非權重量化格式。作者並表示,遇上記憶體不足時應先調低 pool 大小。另在 39 題短上下文測試中,RK4V4 + GDN32 答對 35 題,NVFP4 答對 34 題。

AI 根據報道生成 · 7 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

11月19日
  1. DEV Community
    NVFP4 無法節省 VRAM?12GB 手提電腦 GPU 上的量化取捨

    在 12GB RTX 5070 Ti Laptop 上運行 Qwen3.8-27B 時,NVFP4 峯值 VRAM 僅比 RK4V4 低約 50–70 MiB,差異主要來自 KV pool 配置,而非權重量化格式。作者指出,記憶體不足時應先調低 pool 大小。39 題短上下文測試中,RK4V4 + GDN32 答對 35 題,NVFP4 答對 34 題。

本事件熱度走勢

當前熱度 8·可比範圍峯值 10(11月19日 21:00)·近 24 小時可比範圍變化 –

02.557.51011月19日21:0011月19日23:0011月20日01:0011月20日03:00

趨勢僅比較持續完整觀測到的相同主體,範圍可能小於當前熱度統計。移動指針或點擊圖表查看每小時熱度;鍵盤可用左右方向鍵切換。