Mistral Large 4(Le Chonk)登陸 Hugging Face,提供模型權重與部署指南
Mistral Large 4(Le Chonk)以開放權重形式登上 Hugging Face,提供 FP8 和 NVFP4 兩個官方版本。模型是多模態、多語言 MoE,約有 1T 總參數、49B 活躍參數及 1M tokens 上下文窗口,支援文字和圖片輸入並生成文字。
推薦理由:文章整理 Mistral Large 4 在 Transformers、vLLM 和 llama.cpp 的部署方式,並附上不同硬件配置與上下文長度下的實測速度,提供實際部署參考。