跳到正文
Artificial Analysis 完整文章·· 2 小時前精選AI 評分77

NVIDIA 發佈 Nemotron 3.5 Super VL 與 Nemotron 3.5 Bolt 74B-A9B

NVIDIA Releases Nemotron 3.5 Super VL and Nemotron 3.5 Bolt 74B A9B

AI 導讀

NVIDIA 發佈 Nemotron 3.5 Super VL 和 Nemotron 3.5 Bolt 74B-A9B,兩者在 Intelligence Index 分別得分 26.5 和 21.4。

推薦理由

文章把兩款模型與前代及同級模型的分數、輸出 tokens 用量和參數規模並列,呈現其能力與效率差異。

正文 · 繁體中文

Nvidia 的 Nemotron 3.5 Super VL 現為美國領先的開放權重模型,在 Artificial Analysis Intelligence Index 上取得 26 分

Nemotron 3.5 Super VL 的智能水平是前代 Nemotron 3 Super(13 分)的兩倍,每項任務使用的輸出 token 數則少約 60%

它與 Nemotron 3.5 Bolt 74B-A9B 一同推出;後者是全新 Bolt 系列的首個模型,在 Intelligence Index 上取得 21 分

重點摘要:

➤ 美國領先的開放權重模型:Nemotron 3.5 Super VL 取得 26.5 分,略勝 Thinking Machines' Inkling Small(25.7 分),並領先 NVIDIA 的 Nemotron 3 Ultra(23 分)及 Meta 的 Muse Glimmer(17 分)

➤ Bolt 與 Ultra 相差不到 2 分:Nemotron 3.5 Bolt 74B-A9B 取得 21 分,較 Nemotron 3 Ultra 550B A55B(23 分)低 1.5 分。它的總參數量約為 Ultra 的七分之一(74B 對 550B),活躍參數量則約為六分之一(9B 對 55B)

➤ Super 3.5 使用 NVFP4 幾乎無損:Nemotron 3.5 Super VL 以 NVFP4 推出,在 Intelligence Index 上的得分與 BF16 權重相差 0.1 分,沒有任何項目的變動超過 2.6 分

Nemotron 3.5 Super VL 詳情

  • 上下文視窗:1M tokens
  • 模態:視覺及文字輸入;文字輸出
  • 參數:120B / 12B

Nemotron 3.5 Bolt 74B-A9B 詳情

  • 上下文視窗:256k tokens
  • 模態:視覺及文字輸入;文字輸出
  • 參數:74B / 9B

Nemotron 3.5 Super - 美國開放權重模型領先者

Nemotron 3.5 Super VL 是美國得分最高的開放權重模型,在 Intelligence Index 上取得 26 分。它略勝 Thinking Machines' Inkling Small(26 分),並超越 NVIDIA 先前的旗艦模型 Nemotron 3 Ultra(23 分)及 Meta 的 Muse Glimmer(17 分)

儘管有所進步,美國的開放權重模型智能水平仍落後於阿聯酋(K2 Horizon 375B A23B,31 分)及中國(MiMo-V2.6-Pro,46 分)。

Nemotron 3.5 Super - Token 使用量

Nemotron 3.5 Super VL 在 Intelligence Index 的每項任務中使用 46k 個輸出 token,較前代 Nemotron 3 Super(114k)少約 60%,亦少於 K2 Horizon 375B A23B(52k)及 MiMo-V2.6-Pro(64k)

儘管 token 效率明顯提升,Nemotron 3.5 Super 在 Intelligence Index 得分與每項任務輸出 token 數的前沿上仍相距甚遠

Nemotron 3.5 Super - 輸出速度

在提供 NVFP4 權重服務的預發布 @DeepInfra endpoint 上測量,Nemotron 3.5 Super VL 在提示詞長度為 100k tokens 時,輸出速度約為 630 tokens/s。在我們以這個提示詞長度測量過、Intelligence Index 得分達 20 分或以上的所有模型中,它的速度最快

這約為 Inkling Small(124 tokens/s)的 5 倍、Nemotron 3 Ultra(235)的 2.7 倍,以及 Nemotron 3 Super(140)的 4.5 倍。它亦在 1.8s 內輸出首個 token,相比之下,Nemotron 3 Ultra 為 4.4s,Inkling Small 則為 8.5s

Nemotron 3.5 Bolt

Nemotron 3.5 Bolt 74B-A9B 是 NVIDIA 全新 Bolt 系列的首個模型。它在 Intelligence Index 上取得 21.4 分,在參數量少於 100B 的模型中排名第 4,並在該級別的美國模型中排名第一

Bolt 的得分比 Nemotron 3 Super(12.8 分)高 8.6 分,總參數量則少 39%。與 Nemotron 3 Ultra 相比,它在 AutomationBench-AA(15.5% 對 3.0%)及 AA-Briefcase(912 對 874 Elo)上領先,但在 AA-LCR(70% 對 79%)及 Humanity's Last Exam(25% 對 28%)上落後

Nemotron 3.5 Bolt - Token 使用量

Nemotron 3.5 Bolt 74B-A9B 每項 Intelligence Index 任務使用 82k 個輸出 token,是 Nemotron 3.5 Super VL(46k)的 1.8 倍、Nemotron 3 Ultra(28k)的 2.9 倍,但仍比 Nemotron 3 Super(114k)少 28%

來源:Artificial Analysis 完整文章 · artificialanalysis.ai