小米 MiMo:官網發佈與博客·· 5 小時前AI 評分61
Xiaomi 發佈 MiMo-V2.5-Pro-UltraSpeed,1T 參數模型生成速度突破 1000 tokens/s
MiMo-V2.5-Pro-UltraSpeed: Pushing 1T-Parameter Model Generation Speed to 1000 TPS
AI 導讀
Xiaomi 與 TileRT 發佈 MiMo-V2.5-Pro-UltraSpeed,稱其 1T 參數模型生成速度突破 1000 tokens/s。方案結合 FP4 量化、DFlash 推測解碼和 TileRT 系統優化,在單台標準 8-GPU 節點上實現 1000+ tokens/s。
來源:小米 MiMo:官網發佈與博客 · mimo.xiaomi.com