跳到正文
熱點事件持續更新

Prime Mega MoE 加速 MoE 訓練

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026-10-26,Prime Intellect 介紹 Prime Mega MoE,報道將其稱為用於訓練的高速融合 MoE kernel。這套 kernel 以 DeepSeek 的 Mega MoE kernel 為基礎,加入快速、重疊式反向傳播,令其可用於訓練。效能比較方面,MoE kernel 相比預設的 PyTorch 實作最高快 3.11×;相比 Prime-RL 基線,端到端訓練最高快 1.34×,吞吐量提升 34%。報道列出的數字涵蓋 kernel 效能,以及端到端訓練的速度和吞吐量。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月26日
  1. Prime Intellect
    Prime Mega MoE:用於訓練的高速融合 MoE kernel

    Prime Mega MoE 為 DeepSeek 的 Mega MoE kernel 加入快速、重疊式反向傳播,使其可用於訓練。相比預設的 PyTorch 實作,MoE kernel 最高快 3.11×;相比 Prime-RL 基線,端到端訓練最高快 1.34×,吞吐量提升 34%。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。