跳到正文
新浪科技·· 2 天前AI 評分73

騰訊 Hy4 模型權重正式開源,混元 LLM 系列完成全面開放

腾讯 Hy4 正式开源,混元 LLM 系列实现全量开放

AI 導讀

騰訊混元團隊宣佈 Hy4 模型權重在 GitHub、Hugging Face、ModelScope 和 GitCode 同步開源,混元 LLM 系列至此完成全面開源。

正文

IT之家 11 月 20 日消息,腾讯混元团队今日宣布 Hy4 大模型正式开源,模型权重已在 GitHub、Hugging Face、ModelScope 和 GitCode 四个平台同步上线,开发者可自行下载部署。

至此,混元 LLM 系列已完成全部开源,覆盖 Hy3 preview、Hy3、Hy4 preview、Hy4 及 Hy4 flash 等版本。

Hy4 正式版最早于 11 月 4 日发布,本次开源的是此前预告的模型权重。Hy4 采用 MoE 混合专家架构,总参数 770B,激活参数 49B,上下文窗口突破 100 万 Token。

IT之家此前报道,与旗舰版 Hy4 同步开放的还有主打性价比的 Hy4 flash。Hy4 flash 总参数约 2200 亿,其中包含约 635 亿 Engram 参数,每个 Token 仅激活约 120 亿参数,同样支持最高 100 万 Token 的上下文窗口,并支持文本与图像输入。两者形成从旗舰能力到低成本规模化落地的梯次搭配。

开源协议方面,Hy4 及 Hy4 preview 采用 Apache 2.0 许可证,允许商业使用与修改。腾讯混元同步发布了 Hy4 模型安全评估卡片(System Card),披露了网络安全与生物安全等维度的评估结果。

据官方说明,Hy4 训练数据仅纳入 PoC 生成、漏洞修复等防守性网络安全内容,剔除了漏洞利用、逆向工程与渗透等攻击性数据;腾讯玄武与科恩实验室的审计未发现明显的进攻性能力风险。

参考资料

新浪众测 新浪众测

新浪科技公众号

新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

科学大家

新浪科技

新浪科技为你带来最新鲜的科技资讯

苹果汇

苹果汇为你带来最新鲜的苹果产品新闻

新浪众测

新酷产品第一时间免费试玩

新浪探索

提供最新的科学家新闻,精彩的震撼图片

來源:新浪科技 · finance.sina.com.cn