騰訊 Hy4 正式開源,混元 LLM 系列完成全量開放
腾讯 Hy4 正式开源,混元 LLM 系列实现全量开放
騰訊混元團隊正式開源 Hy4 大模型,模型權重已在 GitHub、Hugging Face、ModelScope 和 GitCode 四個平台上線。混元 LLM 系列至此已全部開源,涵蓋 Hy3 preview、Hy3、Hy4 preview、Hy4 及 Hy4 flash;Hy4 採用 MoE 架構,總參數 770B、激活參數 49B,上下文窗口突破 100 萬 Token。
Hy4 權重已在四個平台上線,且 Hy4 及 Hy4 preview 採用 Apache 2.0 許可證,開發者可下載部署並作商業使用及修改。
IT之家 11 月 20 日消息,騰訊混元團隊今日宣佈 Hy4 大模型正式開源,模型權重已在 GitHub、Hugging Face、ModelScope 和 GitCode 四個平台同步上線,開發者可自行下載部署。
至此,混元 LLM 系列已完成全部開源,覆蓋 Hy3 preview、Hy3、Hy4 preview、Hy4 及 Hy4 flash 等版本。

Hy4 正式版最早於 11 月 4 日發佈,本次開源的是此前預告的模型權重。Hy4 採用 MoE 混合專家架構,總參數 770B,激活參數 49B,上下文窗口突破 100 萬 Token。
IT之家此前報道,與旗艦版 Hy4 同步開放的還有主打性價比的 Hy4 flash。Hy4 flash 總參數約 2200 億,其中包含約 635 億 Engram 參數,每個 Token 僅激活約 120 億參數,同樣支持最高 100 萬 Token 的上下文窗口,並支持文本與圖像輸入。兩者形成從旗艦能力到低成本規模化落地的梯次搭配。
開源協議方面,Hy4 及 Hy4 preview 採用 Apache 2.0 許可證,允許商業使用與修改。騰訊混元同步發佈了 Hy4 模型安全評估卡片(System Card),披露了網絡安全與生物安全等維度的評估結果。
據官方説明,Hy4 訓練數據僅納入 PoC 生成、漏洞修復等防守性網絡安全內容,剔除了漏洞利用、逆向工程與滲透等攻擊性數據;騰訊玄武與科恩實驗室的審計未發現明顯的進攻性能力風險。
參考資料
[GitHub] https://github.com/Tencent-Hunyuan/Hy4
[Hugging Face] https://huggingface.co/tencent/Hy4
[ModelScope] https://modelscope.cn/models/Tencent-Hunyuan/Hy4
[GitCode] https://ai.gitcode.com/tencent_hunyuan/Hy4
[GGUF] https://huggingface.co/AngelSlim/Hy4-GGUF
[開源協議] https://huggingface.co/tencent/Hy4/blob/main/LICENSE
[模型安全評估卡片] https://hy.tencent.ai/Hy4_system_card.pdf
來源:IT之家 · ithome.com