Meta 發佈 Muse Spark Open，與 Apple 合作支援 Mac Studio 叢集本機運行

Meta 於 10 月 15 日發布總參數達 8,160 億的開放權重模型 Muse Spark Open，並與 Apple 合作令模型可以在 2 部配備 M5 Ultra 晶片的 Mac Studio 上完全本機運行，Apple 同日推出新版 MLX 框架及基準測試數據配合，雙方在私隱與平台管治上長期交鋒，今次罕有聯手反映先進級大型語言模型正由數據中心走到辦公桌，企業部署人工智能亦由單一依賴雲端逐步轉向本機與雲端並行的混合模式。

長期對手各取所需並將合作焦點落在開發者桌面

Meta 行政總裁 Mark Zuckerberg 在社交平台發文感謝 Apple 行政總裁 John Ternus 的協助，Ternus 回應時稱讚團隊能在桌面上高效運行這種規模的模型，並指 Mac Studio 正持續拓展裝置端人工智能的界限，Meta 人工智能主管 Alexandr Wang 亦打趣形容雙方好比終於重修舊好的父母。

雙方多年來在廣告追蹤、私隱政策與平台控制權上針鋒相對，2024 年雖然傳出曾商討把 Meta 模型整合進 Apple Intelligence 最終並無下文，今次合作避開消費者助理這個敏感領域，改為聚焦開發者與研究人員的本機推論工作，Apple 藉此展示 Mac Studio 的運算實力，Meta 則多一條毋須依賴雲端基建或專用 GPU 伺服器的模型部署渠道。

混合專家架構配合統一記憶體令巨型模型裝得進桌面電腦

Muse Spark Open 採用混合專家架構，每次推論只啟動約 420 億個參數，配合 100 萬詞元的上下文窗口及原生多模態能力，主攻程式編寫、軟件工程和多步驟推理等代理式任務，Meta 稱它是美國迄今能力最強的開放權重模型，刻意加上國家限定亦反映開放權重領域的競爭已帶有地緣色彩。

Apple 機器學習研究團隊發表的技術文章解釋模型以原生 BF16 精度運行需要逾 1.6TB 記憶體，壓縮成 4 位元 NVFP4 格式後權重仍佔約 493GB，加上推論期間的中間運算單部機器無法容納，M5 Ultra 的統一記憶體架構讓 CPU 與 GPU 共用同一記憶體池，每部 Mac Studio 最多提供 512GB 並具備達每秒 1.2TB 頻寬，Meta 形容 2 部機器合起來猶如擁有 1TB 統一記憶體的超級電腦。混合專家模型每生成一個詞元只需讀取極少部分權重，正好發揮高頻寬記憶體的優勢。

Thunderbolt 5 串連多部 Mac 讓分散式推論走出數據中心

Apple 今次同步更新開源框架 MLX，加入對 M5 Ultra GPU 神經加速器的支援，並改善多部 Mac 之間的通訊效率，macOS 26.2 引入經 Thunderbolt 5 運作的低延遲 RDMA 驅動程式，MLX 以此為基礎既可按層數把模型切分到不同機器作管線平行運算，也可把每層運算拆開作張量平行運算。

Apple 公布的測試顯示在 8,192 詞元上下文下，2 部 Mac Studio 以管線方式運行時每秒生成約 16 個詞元，改用張量平行可提升至約 25 個，4 部機器更逾 36 個而快過一般人的閱讀速度，單機層面的數據同樣可觀，M5 Ultra 處理長上下文時的首個詞元回應時間最多比上一代 M3 Ultra 快 4.6 倍，峰值功耗約 300 瓦讓普通辦公室環境亦可部署。用戶可選用 2 部 512GB 或 4 部 256GB 的 Mac Studio 組成叢集，前者預計本月底才付運。

Meta 示範時以自家開發工具 Muse Code 驅動模型，在本機硬件上修改開源 Mastodon 用戶端 Ice Cubes，完成修正錯誤、加入新功能以至整個建置流程，另一示範則讓模型操控剪接軟件 DaVinci Resolve，自行檢視素材並剪成直向短片。

企業評估本機部署須同時衡量私隱、授權與硬件門檻

對處理敏感資料的企業而言，本機運行先進級模型最直接的好處是資料毋須離開公司網絡，《個人資料（私隱）條例》（Personal Data (Privacy) Ordinance）規管香港金融、法律及醫療機構處理個人資料的方式，企業把程式碼、客戶檔案或內部紀錄交給境外雲端模型處理，往往涉及繁複的合規評估，在辦公室內的 Mac 叢集運行開放權重模型，可以把資料流向收窄至企業可控範圍。

Muse Spark Open 雖然可以免費下載，Meta 卻以自訂授權條款發布模型而對商業用途設有限制，企業採用前須由法務團隊審視條款，開放權重並不等於毫無限制，多部頂級配置 Mac Studio 的投資亦相當可觀，較適合高頻使用的開發團隊與研究部門，偶爾使用的團隊可以先透過 Baseten、Groq、OpenRouter 等平台的 API 試用，模型權重亦已上架 Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden 及 Microsoft Foundry Models，並支援 AMD、Intel 與 Nvidia 硬件。

較務實的做法是先以雲端 API 驗證效果，再把涉及敏感資料的工作負載遷移到本機叢集，代理式模型可以直接操控其他應用程式，企業亦須同步制定權限管理與操作紀錄機制，防止模型在本機環境越權存取檔案。

個人電腦重新成為人工智能基建讓混合架構將成主流

Meta 本月先推出首個自家先進閉源模型 Muse Wonder，再以 Muse Spark Open 吸引開發者，形成閉源與開放權重雙線並行的策略，Apple 則既借助 Google 的 Gemini 模型強化 Siri，也持續把 Mac 塑造成本機人工智能平台，Apple 同日亦公布名為 Minions 的研究，嘗試把 Mac 閒置的 GPU 組成虛擬 GPU 雲端，處理複雜的人工智能工作負載。

硬件廠商的競爭焦點正由單純的晶片算力，轉向記憶體容量、頻寬與機器之間的互連速度，模型開發商亦開始按特定硬件調校模型，對企業決策者而言未來的人工智能架構不再是雲端與本機非此即彼，而是按資料敏感度、使用頻率和成本把不同模型分配到最合適的運算位置，能否及早建立這種混合部署能力將左右企業下一階段的人工智能競爭力。

來源：Financial Times

The post Meta 攜手 Apple 推 Mac 用 AI 模型　本機人工智能邁向叢集時代 appeared first on UNWIRE.PRO.