熱點事件持續更新
Gemma 4 26B A4B 8GB 運行測試
1 篇報道1 個報道來源2 小時前更新
先了解這件事
AI 綜述
2026-10-20 02:12,DEV Community 發布報道,探討 Gemma 4 26B A4B 能否在 8 GB RTX 3050 上運行。報道指出,模型可透過 llama.cpp 運行,但 30 個專家層中有 21 個須留在系統 RAM。啟用 drafter 後,模型可容納 131,072 tokens 上下文;GSM8K 和 BFCL simple 評分分別為 0.965 和 0.945。報道亦列出生成速度為 33.7 tok/s,低於 12B 的 55.1 tok/s。這些數據涵蓋該設定的運行條件、上下文容量、評分及生成速度比較。
AI 根據報道生成 · 2 小時前更新
最新進展10月20日 02:12
Gemma 4 26B A4B 可用 llama.cpp 在 8 GB RTX 3050 運行。報道時間線
沿着報道,瞭解事件的不同側面。
10月20日
- DEV CommunityGemma 4 26B A4B 能否在 8 GB RTX 3050 上運行?
Gemma 4 26B A4B 可透過 llama.cpp 在 8 GB RTX 3050 上運行,需將 30 個專家層中的 21 個留在系統 RAM。啟用 drafter 時可容納 131,072 tokens 上下文,GSM8K/BFCL simple 評分為 0.965/0.945;生成速度為 33.7 tok/s,低於 12B 的 55.1 tok/s。
本事件熱度走勢
還沒有足夠的連續觀測數據,暫不繪製趨勢。