跳到正文
熱點事件持續更新

Gemma 4 12B QAT 版可在 8 GB RTX 3050 運行

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月18日,DEV Community 發表文章探討 Gemma 4 12B QAT 版能否在 8 GB RTX 3050 上完整運行。報道稱,該模型經精確 Q4_0 GGUF 重建後,可在所有層均置於 GPU 的方式下運行。重建版可載入 40,960 tokens 上下文;Google 原始 GGUF 則可載入 28,672 tokens。報道所述的運行結果為全層置於 GPU,並列出重建版與原始 GGUF 可載入上下文長度的差異。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月18日
  1. DEV Community
    Gemma 4 12B QAT 版能否在 8 GB RTX 3050 上完整運行?

    Gemma 4 12B QAT 版經精確 Q4_0 GGUF 重建後,可在 8 GB RTX 3050 上以所有層均置於 GPU 的方式運行。重建版可載入 40,960 tokens 上下文,Google 原始 GGUF 則為 28,672 tokens。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。