跳到正文
Mistral AI·· 2026-03-17精選AI 評分77

Mistral Small 4 發佈,整合推理、多模態與智能體編碼能力

Introducing Mistral Small 4

AI 導讀

Mistral AI 發佈 Mistral Small 4,將 Magistral 的推理、Pixtral 的多模態及 Devstral 的智能體編碼能力整合至單一模型。

推薦理由

Mistral Small 4 整合指令、推理、多模態及智能體編碼能力,並列出相較 Mistral Small 3 的吞吐數據,可供比較單一模型承接多類任務時的效率表現。

正文 · 繁體中文

今天我們宣佈推出 Mistral Small 4,這是 Mistral Small 系列的下一個重要版本。Mistral Small 4 首次把旗艦模型 Magistral 的推理能力、Pixtral 的多模態能力和 Devstral 的代理式編碼能力整合成一款靈活多用途模型。使用 Small 4,無須再於快速指令模型、強大推理引擎或多模態助理之間取捨:單一模型如今具備全部三種能力,並可調整推理力度,效能和效率均屬頂尖。

Mistral Small 4 以 Apache 2.0 授權發布,延續我們對開放、普及且可自訂 AI 的承諾。

多模態、推理最佳化模型的新標準

Mistral Small 4 是一款混合模型,針對一般對話、編碼、代理式任務和複雜推理進行最佳化。其架構同時支援文字和圖片輸入,適用於多種應用。推出 Mistral Small 4,再次彰顯我們對開源模型的承諾;我們亦很榮幸成為NVIDIA Nemotron Coalition創始成員,推動 AI 開發的協作與創新。

主要架構細節

  • 專家混合模型(MoE):128 個專家,每個 token 啟用 4 個,兼顧高效擴展和專門化。

  • 總參數量 119B,每個 token 啟用 6B 參數(包括嵌入和輸出層則為 8B)。

  • 256k 上下文視窗,支援長篇互動和文件分析。

  • 可調整推理力度:在快速、低延遲回應與深入、需要大量推理的輸出之間切換。

  • 原生多模態:同時接受文字和圖片輸入,支援從文件解析到視覺分析等用途。

效能重點

  • 端到端完成時間縮短 40%(延遲最佳化設定)。

  • 與 Mistral Small 3 相比,每秒處理請求量增加 3 倍(吞吐量最佳化設定)。

Performance Comparison Across Internal Models

為何選擇 Mistral Small 4?

整合多種能力

Mistral Small 4 把 Magistral(推理)、Devstral(編碼代理)和 Mistral Small(指令)各自的優勢整合到單一模型。無論你需要聊天助理、研究夥伴還是編碼代理,Small 4 都會按任務調整,無須在專用模型之間切換。

按需推理

透過全新的 reasoning_effort 參數,用戶可動態調整模型行為:

  • reasoning_effort="none":處理日常任務時提供快速、輕量回應,對話風格與 Mistral Small 3.2 相同。

  • reasoning_effort="high":針對複雜問題進行深入、逐步推理,詳盡程度與先前的 Magistral 模型相若。

Performance Comparison Across Internal Models 2   Alt

企業級效率

  • 最低基礎設施配置:4x NVIDIA HGX H100、2x NVIDIA HGX H200,或 1x NVIDIA DGX B200。

  • 建議配置:4x NVIDIA HGX H100、4x NVIDIA HGX H200,或 2x NVIDIA DGX B200,以取得最佳效能。

  • Mistral Small 4 完全開源。你可微調它來處理專門任務,或直接部署以應付一般用途。透過社羣合作,模型現已支援 vLLM、llama.cpp、SGLang、Transformers 等工具。

  • 要交付先進開源 AI 模型,需要廣泛最佳化。透過與 NVIDIA 緊密合作,我們已為開源 vLLM 和 SGLang 最佳化推論,確保模型能在不同部署情境中高效提供高吞吐量服務。

圖:三項基準測試中的分數與輸出長度。上方:準確度分數(越高越好)。下方:平均輸出長度,以千字元計(越短越好)。

具備推理能力的 Mistral Small 4 得分具競爭力,在全部三項基準測試中媲美或超越 GPT-OSS 120B,同時生成的輸出短得多。在 AA LCR 中,Mistral Small 4 只用 1.6K 字元便取得 0.72 分;Qwen 模型則需要多 3.5 至 4 倍輸出(5.8 至 6.1K 字元)才能達到相若表現。在 LiveCodeBench 中,Mistral Small 4 的表現勝過 GPT-OSS 120B,輸出量同時減少 20%。這種效率差異在實際使用中很重要:輸出較短代表延遲較低、推論成本較少,用戶體驗亦更好。

對企業採購者而言:


每個 token 的效率會直接影響成本和可擴展性。回應愈長,模型仍能維持或提升表現,便愈能減少人工介入、降低營運成本,並確保複雜高風險任務(例如生成報告、客戶支援或決策流程)品質一致。混合推理模型可在不按比例增加資源用量的情況下提高準確度,為需要兼顧效能和成本效益的大規模部署帶來更高價值。

對技術團隊和數據科學家而言:


每個 token 的效能是選擇和最佳化模型的重要指標。可高效擴展的模型讓團隊能部署更長、更細緻的任務,例如詳細分析或多步推理,同時不犧牲準確度,也不大幅增加運算成本。這能減少品質和資源分配之間的取捨,促進更創新可靠的 AI 應用,也讓微調和整合更簡單,因為模型穩健,無須不斷調整或依賴後備系統。

適用用途

Mistral Small 4 專為以下用途設計:

  • 開發者:編碼自動化、探索程式碼庫及代理式編碼工作流程。

  • 企業:一般對話助理、文件理解和多模態分析。

  • 研究人員:數學、研究和複雜推理任務。

開源授權和可自訂架構令模型非常適合微調及專門化。

供應方式

  • Mistral API 和 AI Studio

  • Hugging Face 模型庫

  • 開發者可透過 build.nvidia.com免費在 NVIDIA 加速運算平台上試用 Mistral Small 4。若要投入生產環境,Mistral Small 4 於第 0 日即以 NVIDIA NIM 形式提供,可直接使用經最佳化、容器化的推論服務。你亦可透過 NVIDIA NeMo進行領域專用微調。

  • 客戶可在我們的AI Governance Hub查閲技術文件。

如需企業部署、自訂微調或本地方案,請聯絡我們的團隊。

AI 的未來在於開放

透過整合指令、推理和多模態能力,Mistral Small 4 簡化 AI 整合流程,讓用戶以單一、靈活的工具處理更多任務,將開源 AI 的優勢帶進真實應用。

來源:Mistral AI · mistral.ai