跳到正文
Hugging Face Blog·· 2026-06-02精選AI 評分63

Holo3.1 系列發佈,擴展電腦操作至手機並提供本地量化權重

Holo3.1: Fast & Local Computer Use Agents

AI 導讀

H Company 發佈 Holo3.1 電腦操作模型系列,擴展至網頁、桌面及手機環境,並提供本地推理量化權重。AndroidWorld 上,35B-A3B 模型的分數由 67% 升至 79.3%,4B 和 9B 版本由 58% 升至 72%。

推薦理由

文章同時列出不同尺寸、量化格式,以及 AndroidWorld 和 DGX Spark 數據,讀者可據此比較本地部署的性能與速度取捨。

正文 · 繁體中文

去年三月,我們發布最先進的電腦操作模型 Holo3,推出後立即獲廣泛採用。開發者、企業和合作夥伴開始在各類工作流程中部署 Holo3,從瀏覽器自動化和商業軟件,到內部工具和桌面應用程式都有。隨着採用率上升,我們意識到單靠效能已不足夠。

用戶希望在桌面和流動環境中使用相同的電腦操作能力,並順暢整合不同代理框架。他們亦希望有靈活部署選項,從雲端推論到直接在終端用戶裝置上完全本機執行。

因此,我們推出 Holo3.1 系列。Holo3.1 在正式環境最重要的三個維度提升穩健性:使用環境(網頁、桌面、流動裝置)、代理框架和部署目標。我們首次發布針對本機推論優化的量化檢查點,包括 FP8、Q4 GGUF 和 NVFP4。

Holo3.1 朝着我們的願景邁進一大步:打造通用電腦操作代理,讓系統能在不同環境中運作、整合至任何代理堆疊,並在工作流程所在之處執行。


跨 GUI 環境和代理 Harness 執行電腦操作

Holo3.1 以 Qwen 系列為基礎,旨在保留最先進效能,同時提升電腦操作代理在實際部署環境中的穩健性。

團隊將 Holo3 從評估階段推進至正式環境時,我們反覆觀察到同一挑戰:在一種設定下表現出色,不代表能直接移植至另一種設定。流動裝置、其他代理 Harness 和不同執行框架都會帶來各自的分佈偏移。

Capture d’écran 2026-06-01 à 16.30.52

流動裝置自動化

Holo3.1 將 Holo3 的能力由瀏覽器和桌面控制擴展至流動環境,效能大幅提升。在 AndroidWorld 上,我們的 35B-A3B 模型由 67% 升至 79.3%;較小的 4B 和 9B 版本則由 58% 升至 72%。

跨 Harness 效能

為更好支援將 Holo 部署於第三方代理堆疊的團隊,Holo3.1 除了保留 Holo3 已支援的結構化 JSON 輸出,亦原生支援函式呼叫協定。

在涵蓋電子商貿、商業軟件和協作工作流程的 OSWorld 及內部基準測試套件中,函式呼叫和原生執行的效能現已非常接近。使用 Holotab 產品 Harness 評估時,Holo3.1 相較 Holo3 的提升亦超過 25%。

更小模型規模,靈活平衡成本和效能

為進一步支援本機和裝置端推論,我們亦推出新的模型尺寸,包括適合具成本效益、私隱部署的小型模型(0.8B、4B 和 9B),以及追求最先進效能的大型 35B-A3B 模型。

Capture d’écran 2026-06-01 à 16.21.18

overall_pareto_light_notitle

Holo3.1 和 Qwen 3.5 系列的效能與成本比較。整體效能先計算 H Corporate 四項基準測試的平均值(令每個系列權重相同),再計算 OSWorld、AndroidWorld、H Corporate、ScreenSpot-Pro 和 OSWorld-G 的平均值。


快速本機推論

這是我們首個提供量化權重的版本。我們先推出 35B-A3B 檢查點,支援 FP8、Q4 GGUF 和 NVFP4。

NVFP4 使用 NVIDIA Model Optimizer 的 W4A16 設定。這些檢查點能為電腦操作代理提供快速本機推論,模型效能幾乎不會下降。FP8 和 NVFP4 的 OSWorld 分數相同,只比全精度 BF16 檢查點低約兩分。

速度提升顯著:在 DGX Spark 上,NVFP4 W4A16 的總 token 吞吐量是 FP8 的 1.41×,是 BF16 的 1.74×。 quality_throughput_pareto_light (1)

面向消費級硬件的本機代理

我們亦發布 Q4 GGUF 檢查點,讓電腦操作代理可在消費級硬件上本機部署。

代理本身在 Windows 或 Mac 電腦本機執行,而模型可在同一部電腦上運作(我們亦提供 Apple Silicon 的參考數據),或在同一網絡上的 DGX Spark 執行。兩種情況下,所有執行均保持完全私隱並在本機進行,資料不會離開用戶網絡。

在 Spark 上,我們與 NVIDIA 共同開發的代理 Harness 優化技術,再配合上述 NVFP4 量化,令端到端速度較 FP8 基線提升約 2×;平均步驟時間由 6.8s 降至 3.3s。

agent_request_rate_light

不同平台和精度的代理請求率。在 DGX Spark 上,vLLM 配合 NVFP4 在 Default 和 Fast 模式下均取得最高請求率,其後依次為 Q4 GGUF 和 FP8。這些改進等功能即將登陸桌面代理 Harness。


供應情況

Holo3.1 系列提供四種尺寸:

模型 部署目標
Holo3.1-0.8B 超輕量本機代理
Holo3.1-4B 具成本效益的部署
Holo3.1-9B 平衡效能和延遲
Holo3.1-35B-A3B 最先進的效能

我們亦發布針對本機和邊緣部署優化的 FP8、NVFP4 和 Q4 GGUF 檢查點。


立即開始

期待看到開發者以 Holo3.1 構建各種應用。

來源:Hugging Face Blog · huggingface.co