跳到正文
熱點事件持續更新

摩爾線程開源萬卡級 MoE 訓練項目

3 篇報道3 個報道來源36 分鐘前更新

先了解這件事

AI 綜述

2026年10月28日18:16,IT之家報道摩爾線程開源大模型訓練基礎設施 Megatron-MUSA-Titan,聚焦萬卡級叢集的萬億參數 MoE 模型訓練,涵蓋預訓練及強化學習,並稱項目已應用於相關預訓練,支援 blockwise FP8 訓練,以及結合 DeepEP、ACE 加速 Token 分發和結果合併。18:34,新浪科技進一步報道項目已用於萬億參數 MoE 模型預訓練,並可與 slime、miles 協同;報道亦提及 DeepEP、ACE 非同步通信引擎。19:05,DoNews報道摩爾線程於10月28日宣佈開源,並指出項目為其全功能 GPU 設計,面向萬卡級叢集的萬億參數 MoE 訓練。

AI 根據報道生成 · 19 分鐘前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月28日
  1. DoNews
    摩爾線程開源萬卡級 MoE 訓練框架 Megatron-MUSA-Titan

    摩爾線程於10月28日宣佈開源 Megatron-MUSA-Titan,這是面向其全功能 GPU、為萬卡級集羣中的萬億參數 MoE 模型訓練設計的基礎設施項目。

  2. 新浪科技
    摩爾線程開源 Megatron-MUSA-Titan,聚焦萬卡級集羣的萬億參數 MoE 模型訓練

    摩爾線程開源大模型訓練基礎設施項目 Megatron-MUSA-Titan,面向萬卡級集羣的萬億參數 MoE 模型訓練,覆蓋預訓練與強化學習。項目已用於萬億參數 MoE 模型預訓練,並支持與 slime、miles 協同;其 blockwise FP8 訓練及 DeepEP、ACE 異步通信引擎可提升大規模訓練效率。

  3. IT之家
    摩爾線程開源 Megatron-MUSA-Titan,聚焦萬卡級集羣的萬億參數 MoE 模型訓練

    摩爾線程開源大模型訓練基礎設施項目 Megatron-MUSA-Titan,聚焦萬卡級集羣的萬億參數 MoE 模型訓練。項目覆蓋預訓練與強化學習,已應用於相關預訓練,並支援 blockwise FP8 訓練,以及結合 DeepEP 和 ACE 加速 Token 分發與結果合併。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。