Mistral Small 4 發佈,整合推理、多模態與智能體編碼能力
Introducing Mistral Small 4
Mistral AI 發佈 Mistral Small 4,將 Magistral 的推理、Pixtral 的多模態及 Devstral 的智能體編碼能力整合至單一模型。
Mistral Small 4 整合指令、推理、多模態及智能體編碼能力,並列出相較 Mistral Small 3 的吞吐數據,可供比較單一模型承接多類任務時的效率表現。
今天我們宣佈推出 Mistral Small 4,這是 Mistral Small 系列的下一個重要版本。Mistral Small 4 首次把旗艦模型 Magistral 的推理能力、Pixtral 的多模態能力和 Devstral 的代理式編碼能力整合成一款靈活多用途模型。使用 Small 4,無須再於快速指令模型、強大推理引擎或多模態助理之間取捨:單一模型如今具備全部三種能力,並可調整推理力度,效能和效率均屬頂尖。
Mistral Small 4 以 Apache 2.0 授權發布,延續我們對開放、普及且可自訂 AI 的承諾。
多模態、推理最佳化模型的新標準
Mistral Small 4 是一款混合模型,針對一般對話、編碼、代理式任務和複雜推理進行最佳化。其架構同時支援文字和圖片輸入,適用於多種應用。推出 Mistral Small 4,再次彰顯我們對開源模型的承諾;我們亦很榮幸成為NVIDIA Nemotron Coalition創始成員,推動 AI 開發的協作與創新。
主要架構細節
專家混合模型(MoE):128 個專家,每個 token 啟用 4 個,兼顧高效擴展和專門化。
總參數量 119B,每個 token 啟用 6B 參數(包括嵌入和輸出層則為 8B)。
256k 上下文視窗,支援長篇互動和文件分析。
可調整推理力度:在快速、低延遲回應與深入、需要大量推理的輸出之間切換。
原生多模態:同時接受文字和圖片輸入,支援從文件解析到視覺分析等用途。
效能重點
端到端完成時間縮短 40%(延遲最佳化設定)。
與 Mistral Small 3 相比,每秒處理請求量增加 3 倍(吞吐量最佳化設定)。

為何選擇 Mistral Small 4?
整合多種能力
Mistral Small 4 把 Magistral(推理)、Devstral(編碼代理)和 Mistral Small(指令)各自的優勢整合到單一模型。無論你需要聊天助理、研究夥伴還是編碼代理,Small 4 都會按任務調整,無須在專用模型之間切換。
按需推理
透過全新的 reasoning_effort 參數,用戶可動態調整模型行為:
reasoning_effort="none":處理日常任務時提供快速、輕量回應,對話風格與 Mistral Small 3.2 相同。reasoning_effort="high":針對複雜問題進行深入、逐步推理,詳盡程度與先前的 Magistral 模型相若。

企業級效率
最低基礎設施配置:4x NVIDIA HGX H100、2x NVIDIA HGX H200,或 1x NVIDIA DGX B200。
建議配置:4x NVIDIA HGX H100、4x NVIDIA HGX H200,或 2x NVIDIA DGX B200,以取得最佳效能。
Mistral Small 4 完全開源。你可微調它來處理專門任務,或直接部署以應付一般用途。透過社羣合作,模型現已支援 vLLM、llama.cpp、SGLang、Transformers 等工具。
要交付先進開源 AI 模型,需要廣泛最佳化。透過與 NVIDIA 緊密合作,我們已為開源 vLLM 和 SGLang 最佳化推論,確保模型能在不同部署情境中高效提供高吞吐量服務。
圖:三項基準測試中的分數與輸出長度。上方:準確度分數(越高越好)。下方:平均輸出長度,以千字元計(越短越好)。
具備推理能力的 Mistral Small 4 得分具競爭力,在全部三項基準測試中媲美或超越 GPT-OSS 120B,同時生成的輸出短得多。在 AA LCR 中,Mistral Small 4 只用 1.6K 字元便取得 0.72 分;Qwen 模型則需要多 3.5 至 4 倍輸出(5.8 至 6.1K 字元)才能達到相若表現。在 LiveCodeBench 中,Mistral Small 4 的表現勝過 GPT-OSS 120B,輸出量同時減少 20%。這種效率差異在實際使用中很重要:輸出較短代表延遲較低、推論成本較少,用戶體驗亦更好。
對企業採購者而言:
每個 token 的效率會直接影響成本和可擴展性。回應愈長,模型仍能維持或提升表現,便愈能減少人工介入、降低營運成本,並確保複雜高風險任務(例如生成報告、客戶支援或決策流程)品質一致。混合推理模型可在不按比例增加資源用量的情況下提高準確度,為需要兼顧效能和成本效益的大規模部署帶來更高價值。
對技術團隊和數據科學家而言:
每個 token 的效能是選擇和最佳化模型的重要指標。可高效擴展的模型讓團隊能部署更長、更細緻的任務,例如詳細分析或多步推理,同時不犧牲準確度,也不大幅增加運算成本。這能減少品質和資源分配之間的取捨,促進更創新可靠的 AI 應用,也讓微調和整合更簡單,因為模型穩健,無須不斷調整或依賴後備系統。
適用用途
Mistral Small 4 專為以下用途設計:
開發者:編碼自動化、探索程式碼庫及代理式編碼工作流程。
企業:一般對話助理、文件理解和多模態分析。
研究人員:數學、研究和複雜推理任務。
開源授權和可自訂架構令模型非常適合微調及專門化。
供應方式
Mistral API 和 AI Studio
開發者可透過 build.nvidia.com免費在 NVIDIA 加速運算平台上試用 Mistral Small 4。若要投入生產環境,Mistral Small 4 於第 0 日即以 NVIDIA NIM 形式提供,可直接使用經最佳化、容器化的推論服務。你亦可透過 NVIDIA NeMo進行領域專用微調。
客戶可在我們的AI Governance Hub查閲技術文件。
如需企業部署、自訂微調或本地方案,請聯絡我們的團隊。
AI 的未來在於開放
透過整合指令、推理和多模態能力,Mistral Small 4 簡化 AI 整合流程,讓用戶以單一、靈活的工具處理更多任務,將開源 AI 的優勢帶進真實應用。
來源:Mistral AI · mistral.ai