Mistral AI 的 Mixtral 8x7B 採用稀疏專家混合架構並提供開放權重
Mistral AI 發佈開放權重模型 Mixtral 8x7B，並同步推出經監督式微調與 DPO 優化的 Mixtral 8x7B Instruct。
推薦理由：Mixtral 8x7B 同時披露總參數量、每個 token 的啟用參數量及基準對照，可用來理解稀疏 MoE 在模型規模、推理成本與表現間的取捨。
模型發佈
全部主題新模型的發佈、開源與迭代：大模型廠商的旗艦更新、開源權重放出、性能與價格變化的第一時間記錄。
最新精選
第 221–240 條 · 共 245 條Mistral AI精選AI 評分8484
OpenAI News精選AI 評分8585 OpenAI 在 DevDay 公佈 GPT-4 Turbo 等新模型與開發者產品
OpenAI 在 DevDay 公佈 GPT-4 Turbo、GPT-4 Turbo with Vision、DALL·E 3 API、新的 Assistants API 等模型與開發者產品。GPT-4 Turbo 配備 128K 上下文窗口，價格較低。
推薦理由：GPT-4 Turbo 的 128K 上下文窗口與較低價格，連同 Vision 及多項 API，勾勒出 DevDay 公佈的模型與開發者產品範圍。
Mistral AI精選AI 評分7979 Mistral AI 推動開放 AI 模型邁向前沿，並介紹 Mistral 7B
Mistral AI 發佈 Mistral 7B，這是其首個 7B-parameter 模型；公司稱該模型在所有標準英文及代碼基準上，超越所有目前可用、參數量不超過 13B 的開放模型。
推薦理由：Mistral 7B 的比較對象涵蓋不超過 13B 參數的可用開放模型，文章亦交代 Apache 2.0 授權，便於一併理解其基準定位與開放使用方式。
Mistral AI精選AI 評分8484 Mistral AI 發佈 7.3B 參數模型 Mistral 7B
Mistral AI 發佈 7.3B 參數的 Mistral 7B，稱其在多項基準測試中勝過或追平 Llama 2 13B。模型以 Apache 2.0 授權發佈，團隊亦提供使用公開指令數據微調的 Mistral 7B Instruct 聊天版。
推薦理由：文章以重跑評測比較 Mistral 7B 與 Llama 系列，並説明 SWA 如何降低長序列的推理計算與快取成本。
Hugging Face Blog精選AI 評分8080 Code Llama 推出 7B、13B、34B 參數規模的編碼模型
Code Llama 推出 7B、13B 和 34B 參數版本，是以 Llama 2 為基礎、專攻編碼任務的模型家族。基礎模型以 500 billion tokens 的程式碼資料訓練，另有 Python 專用版和指令微調版；模型採用與 Llama 2 相同的社羣授權，可商用。
推薦理由：文章並列 7B、13B、34B 參數規模、Python 與指令微調變體，以及 Hugging Face 接入方式，便於比較模型選擇和部署路徑。
Ollama：Blog精選AI 評分7878 如何在本機執行 Code Llama
Code Llama 已可透過 Ollama 在本機執行，提供 7B、13B 和 34B 參數版本。原文列出 `ollama run codellama:7b`、`ollama run codellama:13b` 和 `ollama run codellama:34b` 命令；13B 版本要求 16GB+ 記憶體，34B 版本要求 32GB+。
推薦理由：文章列出 13B 和 34B 版本的記憶體要求，以及基礎模型和 Python 專用版的 Ollama 命令，方便按本機資源選擇版本。
Hugging Face Blog精選AI 評分6969 Hugging Face 發佈 IDEFICS，開放復現 Flamingo 視覺語言模型
Hugging Face 發佈 IDEFICS，作為 Flamingo 的開放取用復現模型，可接收圖像與文字序列並生成文字。模型提供 9B 和 80B 規模及對話用途的 instruct 版本，訓練資料包括 Wikipedia、Public Multimodal Dataset、LAION 和 115B tokens 的 OBELICS。
推薦理由：IDEFICS 同時交代訓練資料、互動式資料集瀏覽工具、對抗提示評估與基礎模型授權，呈現開放多模態模型的建構和使用邊界。
Hugging Face Blog精選AI 評分8686 Meta 發佈 Llama 2，12 個模型上架 Hugging Face Hub
Meta 發佈 Llama 2 開放存取大語言模型系列，涵蓋 7B、13B 和 70B 參數規模，採用允許商業用途的社羣授權。Hugging Face Hub 上架 12 個模型，並整合 Transformers、Text Generation Inference 和 Inference Endpoints。
推薦理由：文中把 Llama 2 的商用授權與 Hugging Face 上的推理、部署和 QLoRA 微調方法連在一起，呈現從取得模型到接入開發流程的實用路徑。
Hugging Face Blog精選AI 評分7878 StackLLaMA：以 RLHF 訓練 LLaMA 的實作指南
Hugging Face 發佈 StackLLaMA，這是一個以 LLaMA 7B 為基礎、經 RLHF 微調、用於回答 Stack Exchange 問題的模型；完整訓練流程納入 Hugging Face TRL library。文章逐步示範監督式微調、獎勵模型訓練及 PPO 強化學習，並介紹 Stack Exchange 數據的偏好評分與 LoRA 等記憶體效率方法。
推薦理由：文章串聯 SFT、偏好獎勵模型與 PPO 三階段，並示範以 8-bit 載入和 LoRA 降低 RLHF 微調的記憶體需求，呈現可復用的訓練流程。
OpenAI News精選AI 評分8787 OpenAI 發佈 GPT-4 多模態模型
OpenAI 發佈 GPT-4，這是一款可接收圖像和文字輸入、輸出文字的大型多模態模型。它在多項專業及學術基準上達到人類水平表現，但在許多真實場景中的能力仍不及人類。
推薦理由：材料同時交代 GPT-4 的圖像與文字輸入、文字輸出形式，以及基準表現和真實場景能力的差異，可幫助讀者把握其能力描述的範圍。
Hugging Face Blog精選AI 評分6363 Kakao Brain 發佈 ViT、ALIGN 模型及包含 700 million 對圖文的 COYO 資料集
Kakao Brain 與 Hugging Face 公開 ViT、ALIGN 視覺語言模型，以及由 700 million 對圖文構成的開源 COYO 資料集。
推薦理由：ViT 與 ALIGN 連同 COYO 訓練資料一併開放，並提供與 Google 版本的任務比較，呈現資料可取得性對視覺語言研究復現的價值。
OpenAI News精選AI 評分9393 OpenAI 介紹對話模型 ChatGPT
OpenAI 介紹了名為 ChatGPT 的對話模型，該模型以對話方式與用户互動。對話格式使 ChatGPT 能回答追問、承認錯誤、質疑不正確前提，並拒絕不當請求。
推薦理由：原文把追問、承認錯誤、質疑錯誤前提及拒絕不當請求列為對話格式支持的行為，具體呈現 ChatGPT 的互動設計。
Hugging Face Blog精選AI 評分6161 rinna 發佈日語文本生成圖像模型 Japanese Stable Diffusion
rinna Co., Ltd. 發佈 Japanese Stable Diffusion，這款文本生成圖像模型以日語標註圖片微調 Stable Diffusion，支援日語提示詞並生成反映日語文化圈的圖像。
推薦理由：文章拆解 Japanese Stable Diffusion 的兩階段微調流程，説明專用日語文本編碼器與聯合調整潛在擴散模型的作用，訓練數據約為 Stable Diffusion 訓練集的 1/20。
OpenAI News精選AI 評分6666 OpenAI 開源語音識別神經網絡 Whisper
OpenAI 宣佈將其訓練的神經網絡 Whisper 開源。Whisper 在英語語音識別上的穩健性與準確度接近人類水平。
推薦理由：Whisper 的開源安排與英語語音識別表現並列，且以接近人類水平作比較，讓讀者可同時掌握模型發佈範圍與性能定位。
Hugging Face Blog精選AI 評分8282 BLOOM：全球最大型開放多語言大語言模型正式發佈
BLOOM 已正式發佈，這款具 176 billion parameters 的開放多語言大語言模型可生成 46 種自然語言及 13 種程式語言文本。最後一輪訓練歷時 117 days，並公開訓練中間 checkpoint 與 optimizer states，供研究者下載、運行及研究。
推薦理由：BLOOM 除模型外亦公開訓練中間 checkpoint 與 optimizer states，並提供下載及本地或雲端使用途徑，讓研究者能檢視模型行為與訓練過程。
OpenAI News精選AI 評分6363 OpenAI 發佈 GPT-3 和 Codex 新版本，支援編輯及插入既有文本
OpenAI 發佈 GPT-3 和 Codex 新版本，讓模型可以編輯或插入既有文本內容，而非只接續文本。
推薦理由：新版本把 GPT-3 和 Codex 的操作從接續既有文本擴展到編輯或插入內容，清楚呈現兩種文本處理方式的差異。
OpenAI News精選AI 評分7878 OpenAI 透過對齊研究訓練 InstructGPT，使語言模型遵循指令
OpenAI 表示，透過對齊研究訓練的 InstructGPT 比 GPT-3 更能遵循用户意圖，同時回答更真實、毒性更低。這些由人類參與訓練的模型已部署為 OpenAI API 的預設語言模型。
推薦理由：材料交代了 InstructGPT 相較 GPT-3 的改進方向、人類參與訓練方式及 API 預設部署，呈現對齊研究如何落到實際服務。
OpenAI News精選AI 評分7373 OpenAI Codex 改進版透過 API 開放私人測試
OpenAI 發佈改進版 Codex，這套 AI 系統可將自然語言轉換為程式碼，並自今日起透過 API 開放私人測試。
推薦理由：公告同時交代 Codex 的自然語言轉程式碼定位和 API 私人測試安排，讀者可掌握其用途與當時的接入範圍。
OpenAI News精選AI 評分7474 OpenAI 推出 CLIP，以自然語言監督學習視覺概念
OpenAI 推出神經網絡 CLIP，讓模型透過自然語言監督高效學習視覺概念。只需提供待識別的視覺類別名稱，CLIP 即可套用於任何視覺分類基準，其零樣本能力類似 GPT-2 和 GPT-3。
推薦理由：CLIP 將自然語言監督與視覺分類連接，並以類別名稱作為套用基準的入口，呈現其零樣本使用方式。
OpenAI News精選AI 評分7171 DALL·E：根據文字生成圖像
OpenAI 訓練了名為 DALL·E 的神經網絡，可根據文字描述生成圖像，涵蓋自然語言能表達的多種概念。
推薦理由：材料指出 DALL·E 可按文字描述生成涵蓋多種自然語言概念的圖像，清楚交代了其輸入形式與生成範圍。