跳到正文
熱點事件持續更新

Gemma 4 26B A4B 8GB 運行測試

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026-10-20 02:12,DEV Community 發布報道,探討 Gemma 4 26B A4B 能否在 8 GB RTX 3050 上運行。報道指出,模型可透過 llama.cpp 運行,但 30 個專家層中有 21 個須留在系統 RAM。啟用 drafter 後,模型可容納 131,072 tokens 上下文;GSM8K 和 BFCL simple 評分分別為 0.965 和 0.945。報道亦列出生成速度為 33.7 tok/s,低於 12B 的 55.1 tok/s。這些數據涵蓋該設定的運行條件、上下文容量、評分及生成速度比較。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月20日
  1. DEV Community
    Gemma 4 26B A4B 能否在 8 GB RTX 3050 上運行?

    Gemma 4 26B A4B 可透過 llama.cpp 在 8 GB RTX 3050 上運行,需將 30 個專家層中的 21 個留在系統 RAM。啟用 drafter 時可容納 131,072 tokens 上下文,GSM8K/BFCL simple 評分為 0.965/0.945;生成速度為 33.7 tok/s,低於 12B 的 55.1 tok/s。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。