Mistral AI 發佈 Mistral Large、Mistral Small,並將 Mistral Large 接入 Azure
Au Large
Mistral AI 發佈 Mistral Large 與 Mistral Small,並透過 Azure 提供 Mistral Large。Mistral Large 支援英語、法語、西班牙語、德語和意大利語,具備 32K tokens 上下文窗口及原生 function calling,並可用於文本理解、轉換和程式碼生成。
這次發佈同時涵蓋旗艦與低延遲型號,並以基準比較和多種接入渠道呈現兩款模型的能力定位及成本、延遲取向。
我們推出 Mistral Large,這是我們最新、最先進的語言模型。Mistral Large 可透過 la Plateforme 使用。我們亦透過 Azure 提供該模型,Azure 是我們首個分發合作夥伴。
Mistral Large:全新旗艦模型
Mistral Large 是我們全新的尖端文字生成模型,具備頂尖推理能力,可用於複雜的多語言推理任務,包括文字理解、轉換和程式碼生成。
Mistral Large 在常用基準測試中表現出色,是目前可透過 API 普遍使用的全球排名第二模型(僅次於 GPT-4)[基準測試詳情見下文]。

圖 1:GPT-4、Mistral Large(預訓練)、Claude 2、Gemini Pro 1.0、GPT 3.5 和 LLaMA 2 70B 在 MMLU(大規模多任務語言理解測試)中的比較。
Mistral Large 具備以下全新能力和優勢:
模型原生流利支援英文、法文、西班牙文、德文和意大利文,並能細緻理解語法和文化背景。
其32K token 上下文視窗可從大型文件中精準擷取資訊。
其精準遵循指示的能力,讓開發者能設計自己的審核政策;我們便以此為 le Chat 設定系統層級的內容審核。
模型原生支援函式呼叫。此功能加上在 la Plateforme 實作的受限輸出模式,讓開發者能大規模開發應用程式和現代化技術堆疊。
與 Microsoft 合作,透過 Azure 提供我們的模型
Mistral 的使命是讓前沿 AI 普及。因此,我們今天宣佈將開放模型和商用模型帶到 Azure。Microsoft 對我們模型的信任,是我們發展歷程中的重要一步!我們的模型現可透過以下方式使用:
La Plateforme:安全託管於 Mistral 在歐洲的基礎設施上,這個存取平台讓開發者能使用我們全面的模型系列建立應用程式和服務。
Azure:Mistral Large 可透過 Azure AI Studio 和 Azure Machine Learning 使用,體驗與我們的 API 一樣流暢。Beta 客戶已取得顯著成效。
自行部署:針對最敏感的用途,你可以存取我們的模型權重,將模型部署在自己的環境中。請閲讀相關部署的成功案例,並聯絡我們的團隊瞭解詳情。
Mistral Large 的能力
我們會以常用基準測試,比較 Mistral Large 與領先的 LLM 模型的表現。
推理與知識
Mistral Large 展現強大的推理能力。下圖呈現預訓練模型在標準基準測試中的表現。

圖 2:市場領先 LLM 模型在常識、推理和知識基準測試中的表現:MMLU(大規模多任務語言理解)、HellaSwag(10-shot)、Wino Grande(5-shot)、Arc Challenge(5-shot)、Arc Challenge(25-shot)、TriviaQA(5-shot)和 TruthfulQA。
多語言能力
Mistral Large 原生具備多語言能力。在法文、德文、西班牙文和意大利文的 HellaSwag、Arc Challenge 及 MMLU 基準測試中,表現大幅超越 LLaMA 2 70B。

圖 3:Mistral Large、Mixtral 8x7B 和 LLaMA 2 70B 在法文、德文、西班牙文和意大利文的 HellaSwag、Arc Challenge 及 MMLU 基準測試中的比較。
數學與程式編寫
Mistral Large 在程式編寫和數學任務中表現頂尖。下表列出部分領先 LLM 模型在多項熱門基準測試中的表現,用來評估程式編寫和數學能力。

圖 4:市場領先 LLM 模型在熱門程式編寫和數學基準測試中的表現:HumanEval pass@1、MBPP pass@1、Math maj@4、GSM8K maj@8(8-shot)和 GSM8K maj@1(5-shot)。
全新 Mistral Small:為低延遲工作負載最佳化
除了 Mistral Large,我們亦推出全新的最佳化模型 Mistral Small,專為降低延遲和成本而設。Mistral Small 表現勝過 Mixtral 8x7B,延遲亦較低,是介乎開放權重模型與旗艦模型之間、更精緻的中間方案。
Mistral Small 同樣採用了 Mistral Large 在 RAG 支援和函式呼叫方面的創新技術。
我們簡化了 endpoint 方案,提供以下選擇:
具競爭力價格的開放權重 endpoint,包括
open-mistral-7B和open-mixtral-8x7b。全新最佳化模型 endpoint:
mistral-small-2402和mistral-large-2402。我們會繼續提供mistral-medium,但今天不會更新這個模型。
我們的基準測試全面呈現效能與成本之間的取捨。
除了推出新模型,我們亦支援機構管理及多貨幣定價,並更新 la Plateforme 的服務級別。我們亦大幅降低了所有 endpoint 的延遲。
JSON 格式與函式呼叫
JSON 格式模式會強制語言模型輸出有效的 JSON。這項功能讓開發者能以更自然的方式與模型互動,並以結構化格式擷取資訊,方便在後續工作流程中使用。
函式呼叫讓開發者可將 Mistral endpoint 連接至自訂工具,從而透過內部程式碼、API 或資料庫實現更複雜的互動。詳情請參閲我們的函式呼叫指南。
函式呼叫和 JSON 格式目前只適用於 mistral-small 和 mistral-large。我們很快會為所有 endpoint 加入格式設定,並支援更精細的格式定義。
立即試用 Mistral Large 和 Mistral Small
Mistral Large 今日起可在 la Plateforme 和 Azure 使用,也可在我們的 Beta 助理示範版 le Chat 中使用。一如既往,我們期待收到你的意見!
來源:Mistral AI · mistral.ai