MiMo-V2.5 系列全流程推理優化實踐

小米 MiMo 團隊介紹 MiMo-V2.5 系列的全流程推理工程優化，涵蓋 KVCache 管理、排程、Prefill/Decode 執行流程及多模態推理。多模態 Encoder 的 QPS 由 15 增至 30，平均延遲由 78.39 ms 變為 80.28 ms；1 小時影片的 Encoder 端到端延遲由 156 s 降至 23 s。