第一財經·· 5 天前AI 評分33
摩爾線程完成 Kimi K3.1 Pro 訓練適配
摩尔线程完成Kimi K3.1 Pro训练适配
AI 導讀
摩爾線程完成月之暗面開源的 Kimi K3.1 Pro 訓練適配。該模型有 2.8萬億參數,適配基於 MTT S5000 與 MUSA 軟件棧,並構建原生 FSDP2 多模態訓練路徑,打通從模型載入、分片調度到梯度同步的完整訓練鏈路。
正文
责编:高明妍
摩尔线程完成Kimi K3.1 Pro训练适配
据摩尔线程消息,近日,月之暗面开源2.8万亿参数旗舰模型Kimi K3.1 Pro。摩尔线程基于旗舰级AI训推一体智算卡MTT S5000与MUSA软件栈,完成该模型的训练适配,构建了原生FSDP2多模态训练路径,打通了从模型加载、分片调度到梯度同步的完整训练链路。
举报
此内容为第一财经原创,著作权归第一财经所有。未经第一财经书面授权,不得以任何方式加以使用,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。
如需获得授权请联系第一财经版权部:banquan@yicai.com
來源:第一財經 · yicai.com