Liquid AI 模型與工程博客·· 5 小時前AI 評分57
Liquid AI 發佈 LFM2.5-VL-DSpark 草稿模型,加速視覺語言模型解碼
LFM2.5-VL-DSpark: Accelerating vision-language models on edge and beyond
AI 導讀
Liquid AI 發佈 LFM2.5-VL-3B 的實驗性視覺 DSpark 草稿模型,GPU 解碼吞吐量最高提升 2.66×,端側最高提升 3.13×。端到端吞吐量在 GPU 和端側分別最高提升 2.27× 和 2.62×;草稿模型約有 280M 參數,令部署模型參數量增加 8.9%,並支援 llama.cpp、SGLang 及 MLX-VLM。
來源:Liquid AI 模型與工程博客 · liquid.ai