Meta 發佈 Muse Spark Open，這款 816B 開放權重 MoE 模型具備 1M-token 上下文窗口

Meta Superintelligence Labs 發布了 Muse Spark Open，即其 Muse Spark 模型的開放權重版本。Muse Spark Open 是一個擁有 816B 個參數的混合專家模型，每個 token 會啟用 42B 個參數。它可接收文字、圖片、影片及音訊輸入，並以文字回應，上下文長度為 1M token。Meta 團隊聲稱，這是目前能力最強的美國開放權重模型。對開發者而言，真正的亮點在於部署：NVFP4 版本可在 2 部 Apple M5 Ultra Mac Studio 上運行。

重點摘要

規模：總計 816B／啟用 42B 個參數（256 個專家，每個 token 啟用 8 個）；上下文長度為 1M token。
可在以下硬件運行：透過 MLX 在 2 部 Mac Studio（各配備 M5 Ultra、512 GB）上運行；使用 NVFP4 時可配備 4 張 Blackwell Ultra GPU 或 8 張 H200；使用 Unsloth 2-bit GGUF 的配置約需 300 GB。
表現：代理式工具使用表現出色；在大型開放模型的編碼能力中游。
最佳表現：MCP-Atlas 得分 89.2，在 Meta 的比較表中排名第一。
最弱表現：Terminal-Bench 2.1 得分 76.4，落後於 Kimi K3（85.0）、GLM 5.3（83.9）及 Qwen3.8（82.0）。

甚麼是 Muse Spark Open？

Muse Spark Open 是 Meta 開發的原生多模態 MoE 模型，旨在處理編碼及長期代理式工作。其權重以 BF16 及 NVFP4 格式在 Hugging Face 發布。開放版本接受了額外的安全性後訓練。Meta 團隊表示，這令模型在沒有系統層級防護措施的情況下也更穩健。

Muse Spark Open 的架構如何運作？

模型卡列出 62 層及 8192 的隱藏維度。每個 MoE 層有 256 個專家，並透過 top-k 路由為每個 token 啟用 8 個專家。注意力機制採用分組查詢注意力，設有 128 個查詢頭及 16 個 KV 頭。獨立的 1.8B 參數 Perception Encoder 負責處理視覺輸入。詞彙表包含 202,048 個 token，訓練數據涵蓋 100 多種語言。

推理深度可透過 reasoning_effort 設定為 low、medium、high 或 xhigh。預設值為 xhigh。

Muse Spark Open 在基準測試中的表現如何？

Meta 在最高推理力度下，將其與 Kimi K3、GLM 5.3、Qwen3.8-2.4T-A95B 等模型比較。它在工具使用及知識可靠性方面表現最佳：

MCP-Atlas：89.2，高於 Qwen3.8（84.5）及 GLM 5.3（84.2）。
JobBench：61.8，略高於 GLM 5.3（61.4）。
HLE-Diamond，不使用工具：26.1；Kimi K3 為 22.2。
AA Omniscience：25，在 Meta 的表格中排名第一。
ZeroBench，使用工具：50.0；Kimi K3 為 41.0。

編碼是它的弱項。在使用 Terminus 2 測試框架的 Terminal-Bench 2.1 中，它得分 76.4。Kimi K3 得分 85.0，GLM 5.3 得分 83.9，Qwen3.8 得分 82.0。其 Artificial Analysis Intelligence Index 為 39，低於 GLM 5.3（45）、Kimi K3（44）及 Qwen3.8（40）。因此，「美國能力最強」這一説法成立，但中國開放模型整體仍然領先。

部分競爭對手的評分由其自行申報；評估方法列出各項來源。

Muse Spark Open 需要甚麼硬件？

根據 Meta 的開發者指南，BF16 權重約為 1.6 TB。NVFP4 只對專家進行量化，所需容量約為 530 GB。模型卡建議，NVFP4 至少需要 700 GB VRAM，BF16 則需要 2 TB。

數據中心：使用 NVFP4 時，配備 4 張 Blackwell Ultra GPU 或 8 張 H200。
桌面電腦：2 部 M5 Ultra Mac Studios，各配備 512 GB 記憶體，透過 Thunderbolt 5 和 RDMA 連接。MLX 張量並行會將每一層分散至兩部機器上。
工作站：Unsloth Dynamic GGUFs 低至 2-bit 的版本，可放入約 300 GB 的總記憶體中。

開發者可在哪裏執行？

首日即可使用的引擎包括 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、MLX、llama.cpp 和 Unsloth。Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 均已提供託管 API。OpenRouter 列出的價格為每 1M 個輸入 token 收費 $1.25，每 1M 個輸出 token 收費 $4.25。

兩款草稿模型可加快解碼：供 SGLang 使用的 DFlash V2，以及供 vLLM 使用的 DSpark。Meta 報告指出，DFlash V2 在 AMD MI355X 上的單請求吞吐量達 3.7x。可使用 TorchTitan、Hugging Face TRL 和 NVIDIA NeMo AutoModel 進行微調。

Muse Model License 允許哪些用途？

Muse Model License 允許使用、微調、蒸餾和再分發。以下 2 項條件最為重要：

產品必須顯示「採用 Muse Spark Open 打造」。
在 12 個月內收入超過 $20M 的模型即服務供應商，須與 Meta 另行簽訂協議。

內部使用、研究，以及為自家產品功能提供支援，均不受收入條款限制。

Muse Spark Open、Kimi K3、GLM 5.3 與 Qwen3.8 對比

項目	Muse Spark Open	Kimi K3	GLM 5.3	Qwen3.8-2.4T-A95B
總參數	816B	2.8T	753B	2.4T
活躍參數	42B	104B	~40B	95B
上下文	1M	1,048,576	1,048,576	原生支援 262,144，最高可達 1,010,000
輸入	文字、圖片、影片、音訊	文字、圖片、影片	文字	文字
授權條款	Muse Model License	Kimi K3 License	glm-5.3 license	qwen3.8-max license
已發布權重	BF16, NVFP4	MXFP4 (QAT)	BF16, FP8	BF16
AA Intelligence Index (經 Meta)	39	44	45	40
Terminal-Bench 2.1, Terminus 2 (經 Meta)	76.4	85.0	83.9	82.0
MCP-Atlas (經 Meta)	89.2	82.3	84.2	84.5
Toolathlon Verified（供應商）	72.8	76.5	73.0	72.5
HLE 搭配工具（供應商）	61.0	56.0	62.5	56.2
DeepSWE 1.1（供應商，自有測試框架）	60	67.5	66.9	56.6
桌面電腦配置	2x M5 Ultra Mac Studio	未披露	未披露	未披露

重點摘要

總參數 816B、活躍參數 42B、上下文長度 1M，支援文字、圖片、影片和音訊輸入。
在 Meta 的開放模型排行榜中，於 MCP-Atlas（89.2）和 JobBench（61.8）領先。
在 Terminal-Bench 2.1（76.4）上落後於 Kimi K3、GLM 5.3 和 Qwen3.8。
NVFP4 版本可透過 MLX 在 2 部 M5 Ultra Mac Studios 上執行。
大多數情況下免費；收入超過 $20M 的 MaaS 供應商須另行簽訂協議。

查看模型權重、研究網誌、開發者指南和評估方法。本項目所有功勞均歸於研究者。另外，歡迎在 Twitter 關注我們，亦別忘記加入我們的 150k+ML SubReddit 並訂閲 我們的電子報。等等！你有使用 Telegram 嗎？ 現在也可以在 Telegram 上加入我們。

文章〈Meta 發佈 Muse Spark Open：816B 開放權重 MoE，具備 1M 上下文〉最初刊載於MarkTechPost。