Mistral AI 發佈首款推理模型 Magistral
Magistral
Mistral AI 發佈首款推理模型 Magistral,包含 24B 參數的開放權重版 Magistral Small 及企業版 Magistral Medium。
AIME2024 成績呈現兩版差異,Magistral Medium 和 Small 分別得 73.6% 和 70.7%,majority voting @64 時為 90% 和 83.3%。
隆重推出 Magistral:Mistral AI 首款推理模型,擅長專業領域、透明及多語言推理。
人類最精彩的思考並非線性過程,而是在邏輯、洞見、不確定性和發現之間交織。推理語言模型讓我們能借助 AI 擴展並分擔複雜思考和深入理解的工作,提升我們處理問題的能力;這些問題需要精確、循序漸進的推敲和分析。
不過,這個領域仍處於起步階段。早期思考模型已知的限制包括:缺乏解決專業領域問題所需的深厚專業知識、透明度有限,以及無法穩定地以指定語言推理。
今天,我們很高興宣佈推出對 AI 研究的最新貢獻:Magistral,這是我們首款推理模型。Magistral 同時推出開源版和企業版,旨在以人們熟悉的方式深入思考,同時具備跨專業領域的知識、可供追蹤和驗證的透明推理,以及靈活深入的多語言能力。
以 Preview 版 Magistral Medium 展示重力、摩擦和碰撞的一次性物理模擬。
重點。

Magistral 是一款雙版本發布的模型,專注於實際推理,並根據回饋持續改進。
我們推出兩種版本:Magistral Small 是 24B 參數開源版本;Magistral Medium 則是功能更強大的企業版。
Magistral Medium 在 AIME2024 得分 73.6%,以多數決投票 @64 得分 90%。Magistral Small 的相應得分為 70.7% 和 83.3%。
原生推理:Magistral 的思維鏈可跨越不同全球語言和文字系統運作。
適用於多種企業用途,從結構化計算和程式化邏輯,到決策樹和規則系統。
使用 Le Chat 的 Think mode 和 Flash Answers,回應速度比大部分競爭產品快 10 倍。
本次發布亦有最新論文支持,內容涵蓋 Magistral 的全面評估、訓練基礎設施、強化學習演算法,以及訓練推理模型的新發現。
我們已將 Magistral Small 開源,歡迎社羣檢視、修改其架構和推理流程,並以此為基礎進一步開發,加快思考型語言模型的發展。我們早前推出的開源模型已獲社羣用於多個令人振奮的項目,例如 ether0 和 DeepHermes 3。
專為透明推理而設。
Magistral 經過多步驟邏輯微調,提升可解釋性,並能以用戶的語言提供可追溯的思考過程;一般用途模型則不具備這些特點。
我們希望從這次發布開始快速迭代模型。模型將持續改進。
靈活運用多種語言。
模型擅長以多種語言維持高保真推理。Magistral 特別適合使用英文、法文、西班牙文、德文、意大利文、阿拉伯文、俄文和簡體中文進行推理。
在 Le Chat 中以 Preview 版 Magistral Medium 使用阿拉伯文提示詞並生成回應。
使用 Le Chat,推理速度提升 10 倍。
透過 Le Chat 的 Flash Answers,Magistral Medium 的 token 吞吐量最高可比大部分競爭產品快 10 倍,讓用戶能大規模享有即時推理和回饋。
在 Le Chat 中,Preview 版 Magistral Medium 與 ChatGPT 的速度比較。
應用靈活多元。
Magistral 適合需要較長思考過程,而且比非推理 LLM 更講求準確度的一般用途。從法律研究和金融預測,到軟件開發和創意故事敍述,這款模型都能解決需要透明度和精確度的多步驟挑戰。
商業策略與營運。
Magistral 建基於我們的旗艦模型,適用於研究、策略規劃、營運最佳化和數據導向決策,無論是運用多項因素進行風險評估和建模,還是在限制條件下計算最佳送貨時段。
受規管行業與領域。
法律、金融、醫療保健和政府專業人員可取得符合合規要求的可追溯推理。每個結論都能沿邏輯步驟追溯,讓專業領域 AI 可在高風險環境中接受審核。
系統、軟件與數據工程。
Magistral 可提升程式編寫和開發用途的能力:相比非推理模型,它透過一連串涉及外部工具或 API 的多步驟行動,大幅改善專案規劃、後端架構、前端設計和數據工程。
內容與溝通。
早期測試顯示,Magistral 是出色的創意夥伴。我們強烈推薦它用於創意寫作和故事創作,模型既能撰寫連貫內容,也能按需要創作趣味十足、風格古怪的文案。
供應情況
Magistral Small 是開放權重模型,可按 Apache 2.0 授權自行部署。你可以在以下位置下載:
你可以在 Le Chat 試用 Magistral Medium 預覽版,或透過 API 在 La Plateforme 使用。
Magistral Medium 亦可在 Amazon SageMaker 使用,並即將登陸 IBM WatsonX、Azure AI 和 Google Cloud Marketplace。
如需企業及自訂方案,包括本機部署,請聯絡我們的銷售團隊。
順帶一提,我們正在招聘!
Magistral 是 Mistral AI 對開源社羣的重要貢獻,並有資深專家和實習生參與。我們期待擴大團隊,共同塑造未來的 AI 創新。
如果你有興趣加入我們,實踐普及人工智能的使命,歡迎申請加入團隊!
來源:Mistral AI · mistral.ai