跳到正文
熱點事件持續更新

P²-MOPD加快MoE分佈轉移後恢復

1 篇報道1 個報道來源45 分鐘前更新

先了解這件事

AI 綜述

2026年11月22日,DEV Community 報道 P²-MOPD 用於提升 MoE 模型在分佈轉移後的恢復效率。方法採用 on-policy 蒸餾,讓多教師學生模型以約一半訓練步數達到相同的恢復表現。報道稱,1.7 B 參數模型完全收斂時,平均恢復率為 94.7%,高於 MOPD 的 80.9%。評估涵蓋四個領域,並測試 1.7 B 及 4 B 兩種模型規模。

AI 根據報道生成 · 36 分鐘前更新

報道時間線

沿着報道,瞭解事件的不同側面。

11月22日
  1. DEV Community
    P²-MOPD 以 on-policy 蒸餾加快 MoE 恢復

    P²-MOPD 在分佈轉移後以約一半的訓練步數,讓多教師學生模型達到相同的恢復表現。1.7 B 參數模型完全收斂時的平均恢復率為 94.7%,高於 MOPD 的 80.9%。評估涵蓋四個領域及 1.7 B、4 B 兩種模型規模。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。