Qwen3.8-Flash 深度解讀:模型定位、特性、能力與訂閲收費説明
Qwen3.8-Flash 是面向高頻、低延遲及成本敏感任務的輕量模型,適合批量內容處理、客服問答和資訊抽取等場景。它支援 JSON 結構化輸出、工具調用及文字與圖像輸入,並可透過百煉平台調用,兼容 OpenAI 與 Anthropic 風格接口。個人版 Token Plan 月費由 39 元至 312 元,額度按月重置、不結轉。
Qwen3.8-Flash 是面向高頻、低延遲及成本敏感任務的輕量模型,適合批量內容處理、客服問答和資訊抽取等場景。它支援 JSON 結構化輸出、工具調用及文字與圖像輸入,並可透過百煉平台調用,兼容 OpenAI 與 Anthropic 風格接口。個人版 Token Plan 月費由 39 元至 312 元,額度按月重置、不結轉。
IBM 於 2026 年 11 月 12 日發佈兩款實驗性 Granite LLMON 模型,訓練目標是分辨可信指令與不可信資料。IBM 稱兩款預覽模型在 OPI benchmark 上比其測試的最佳 frontier model 多避開 47% 攻擊;後訓練論文報告,間接注入評測的攻擊成功率由 53%–100% 降至 0.02%–5.6%。
Kakao 開源兩款針對韓語搜尋優化的嵌入模型,分別為 3B 參數的 Kanana-2-3b-embedding 和 1.3B 參數的 Kanana-2-1.3b-embedding。內部評測顯示,兩款模型的韓語搜尋表現優於參數規模相近的全球開源模型,英語表現相若,記憶體用量和推理速度則提升數十倍或以上。模型採用 Kanana Open License,按授權條款可作商業用途。
Cohere Rerank 5 提供 Pro 和 Fast 兩個層級,本文按 RAG 流程的品質要求與延遲預算説明選擇方式。Cohere 報告的每次 96 份文件請求中位延遲分別為 11.7s 和 4.1s;Pro 在其 46 組綜合數據集中的 39 組勝出,品質數據尚待獨立複測。文章建議以代表性查詢測試兩個層級,並指出 Cohere 尚未公佈 v5 每請求定價。
Cohere 推出企業級檢索重排模型 Rerank 5,提供 Pro 與 Fast 兩個版本,並新增上下文聚焦和經校準的相關性分數。Rerank 5 Pro 在 46 套數據集中取得 39 項第一、43 項進入前二,並在 BRIGHT 得分 82.2,較上一代高 12.4 分。
LlamaIndex 推出視覺語言文件解析模型 OCRia-1,並已將其整合至 LlamaParse,現有用戶無需加價即可獲得這項解析能力。OCRia-1 在 ParseBench 綜合得分 87.4,在 350 億參數以下梯隊排名第一;其圖表專項得分 85.1。LlamaIndex 以超過 10 萬頁文件建立訓練數據集,並結合 SFT 與 RLVR 訓練。
Cohere 發佈 Rerank 5,提供 Pro 和 Fast 兩個版本,加入可返回文件內相關段落的 Context Focus,以及校準相關性分數。兩個版本均支援 32K token 上下文窗口和 100 多種語言,API 價格分別為每 1M tokens $0.05 和 $0.02。
Chroma 訓練並公開 Context-1,一個以超過 8,000 項合成任務訓練的 20B 參數搜尋智能體,模型權重採 Apache 2.0 授權。Context-1 會把高層問題拆成子查詢並多輪搜尋,按相關性修剪檢索內容;研究稱其檢索表現可與前沿模型相比,推理速度最高可達 10x,成本較低。Chroma 亦公開合成任務生成流程的完整程式碼,以支援重現和後續研究。
在 6 GiB RTX 3060 Laptop GPU 上以 Ollama 比較 Qwen3 4B 和 0.6B,0.6B 的生成速度約快 3 倍,4B 則通過全部 6 項文件檢查,0.6B 通過 4 項。兩者的整張 GPU 峯值記憶體分別為 3.12 GiB 和 1.04 GiB;這是單一筆電上的探索性測試,不能據此判定整體準確度。
Cohere 發佈企業檢索模型 Rerank 5,提供 Pro 與 Fast 兩個版本,並新增 Context Focus,從文件中定位相關文字段落。Rerank 5 Pro 在評估的 46 個複合數據集中有 39 個排名第一、43 個至少排名第二;Fast 面向對延遲和成本敏感的工作負載。
NVIDIA 擴充 Nemotron Retriever 系列,推出 Nemotron 3.5 Embed、Rerank 和 Parse 開放模型,涵蓋多模態檢索、相關性重排及文件擷取。
NVIDIA 擴展 Nemotron Retriever 系列,推出可商用的開放模型 Nemotron 3.5 Embed、Nemotron 3.5 Rerank 及 Nemotron 3.5 Parse,涵蓋多模態檢索、重排及文件抽取。
推薦理由:這次更新把多模態嵌入、重排與文件解析納入同一檢索系列,並列出多項基準與吞吐數據,呈現準確度和部署效率的取捨。
深度求索(DeepSeek)於 2026年10月17日發佈 DeepSeek-V4.1-Flash-1017,並向所有用戶開放 Search API 與 Fetch API。
Granite Switch 4.1 發佈 8B 和 30B 模型,讓對話、通用及專項決策與語音轉文字可透過同一個託管端點處理。兩款模型整合 Decision aLoRA、Guardian aLoRA 和 Granite-Speech-5.0-Turbo-CTC,合併後佔用的 GPU VRAM 約與基礎模型單獨運行相若,且可重用基礎模型生成的 KV cache。
推薦理由:文章呈現以 aLoRA 組合通用及專項決策與語音辨識的方法,並交代共用 KV cache 如何使多項能力維持接近基礎模型的 GPU VRAM 佔用。
Perplexity 發佈 pplx-embed-v2-late,包含 0.6B 與 9B 兩款 ColBERT-style 多模態嵌入模型,可檢索文字、圖像及 PDF 頁面渲染圖,並共用嵌入空間。
Google 推出 EmbeddingGemma 2,將 EmbeddingGemma 的嵌入能力由文字擴展至程式碼、圖像、影片和音訊,並把不同內容映射至同一嵌入空間。
Google DeepMind 發佈 EmbeddingGemma 2,將文字、程式碼、圖像、影片及音訊映射至同一嵌入空間,供裝置端推理使用。
推薦理由:EmbeddingGemma 2 將文字、程式碼、圖像、影片及音訊映射至同一嵌入空間,並列出裝置端記憶體與向量儲存數據,方便評估跨模態搜尋的本地部署。
EmbeddingGemma 2 開發者指南介紹這款基於 Gemma 4 的開放模型,可將文字、程式碼、圖像、影片和音訊映射至同一個 768 維向量空間。模型可按需載入由文字與程式碼的 270M 參數配置,擴展至完整多模態的 740M 參數配置,各配置共用同一向量空間。
Liquid AI 發佈 Liquid Nanos,一系列 350M–2.6B 參數的基礎模型,可在手機、手提電腦及嵌入式裝置上本機運行。首批實驗性模型涵蓋資料抽取、英日雙向翻譯、RAG、工具調用及數學推理,另包括社羣製作的法語微調模型。模型現已在 Liquid Edge AI 平台(LEAP)及 Hugging Face 提供,並以開放授權向學術界、開發者及小型企業開放。
Cohere 發佈 Embed 5 嵌入模型系列,分為面向最高檢索品質的 Pro 和麪向低延遲、高流量工作的 Fast,兩款均支援多模態輸入、100+ 種語言及 128K-token 上下文窗口。
Inception Labs 發佈 Mercury 2.5,稱其相較 Mercury 2 智能提升 40%,並維持低延遲、低成本的服務特性。
Ai2 開源 AstaBrief 8B,這款模型可把研究問題和檢索到的文獻摘錄生成帶引用報告,並已在 Asta 的 Generate a report 功能中提供 Fast mode。
Ai2 開源 AstaBrief 8B 及其訓練資料,並將這款科學報告生成模型加入 Asta 的 Fast mode。它以 Qwen3-8B 為基礎,根據研究問題和檢索到的文獻摘錄一次生成附引文報告;Asta 全流程中,Fast mode 平均每份報告需時 51.1 秒,較 Thinking mode 的 178.5 秒快約 3.5 倍。
NeoMME 推出 260M 和 800M 兩種規模的多語言多模態編碼器,並提供用於視覺文件檢索的 NeoMME-Retriever。模型從零開始以單一雙向 Transformer 處理文字 token 和原始圖像 patch;NeoMME-Retriever 單次前向傳播可輸出密集與 late-interaction 嵌入向量。
Mistral AI 發佈文件解析模型 Mistral OCR 4,除提取文字外亦輸出邊界框、區塊類型和信心分數,並支援 170 種語言、10 個語言組別。獨立人工偏好評估的平均勝率為 72%,模型在 OlmOCRBench 得分 85.20;官方提醒自動基準存在評分侷限,建議以自有文件評估。
推薦理由:文章列明 OCR 4 的結構化輸出和自動基準評分侷限,為企業按自身文件評估解析、檢索及資料管線提供具體參照。
IBM Granite 發佈兩款採 Apache 2.0 授權的多語嵌入模型:97M 參數的 granite-embedding-97m-multilingual-r2 和 311M 參數的 granite-embedding-311m-multilingual-r2。
推薦理由:文章提供 97M 與 311M 版本在多語檢索、長文及程式碼基準的比較,並交代 Matryoshka 維度選項對儲存與部署取捨的影響。
Google 於 2026 年 3 月 10 日以公開預覽形式發佈基於 Gemini 架構的首款多模態嵌入模型 Gemini Embedding 2。模型可處理文字、圖片、影片、音訊及 PDF,並將內容映射至統一嵌入空間,支援 100 多種語言及單一請求混合多種模態。
Inception Labs 發佈 Mercury 2 推理語言模型,透過擴散模型並行修訂生成回應,主打低延遲推理。官方列出其在 NVIDIA Blackwell GPUs 上達 1,009 tokens/sec,並稱生成速度提升 >5x;價格為 $0.25/1M input tokens、$0.75/1M output tokens。
Google 發佈 EmbeddingGemma,一款支援 100 多種語言、具備 308M parameters 和 2K context window 的多語言嵌入模型。文章示範以 Sentence Transformers、LangChain 等工具接入模型,並在 MIRIAD 醫療檢索測試中將微調版的 NDCG@10 提升至 0.8862,基礎模型為 0.8340。
推薦理由:文章提供 EmbeddingGemma 接入多個檢索框架的程式示例,並説明查詢與文件提示詞的設定方式,方便將模型納入既有檢索流程。
Mistral AI 發佈首款程式碼專用嵌入模型 Codestral Embed,面向真實程式碼檢索。官方稱其檢索表現優於 Voyage Code 3、Cohere Embed v4.0 和 OpenAI 的大型嵌入模型;採用 256 維、int8 精度時仍優於競品。
Mistral AI 推出 Mistral OCR 文件理解 API,可解析圖片與 PDF,並抽取文字、圖像、表格及公式。API mistral-ocr-latest 已在 la Plateforme 開放,每美元可處理 1000 頁,批次推理下每美元可處理頁數約增至兩倍;Mistral OCR 亦可在 le Chat 免費試用。
推薦理由:Mistral OCR 可解析 PDF、圖片中的表格與公式,並支援 JSON 輸出,展示文件接入 RAG 與 Agent 工作流的實際做法。
Answer.AI 與 LightOn 發佈 ModernBERT,提供 base(149M params)及 large(395M params)兩種僅編碼器版本。
推薦理由:文章將 ModernBERT 的架構、效率與訓練改動連結至長上下文檢索及程式碼檢索場景,呈現編碼器更新對實際應用的意義。
Answer.AI 與 LightOn 發佈 ModernBERT,提供 149M params 的 base 和 395M params 的 large 兩種 encoder-only 模型。
Ollama 現已提供部分 IBM Granite 3.0 模型供用戶執行,所有模型均採用 Apache 2.0 授權。Granite 2B、8B 是純文字 Dense LLM,使用超過 12 trillion tokens 訓練;1B、3B MoE 模型使用超過 10 trillion tokens 訓練,面向低延遲推理,適合裝置端部署或需要即時推理的情境。
Bespoke Labs 開發的事實核查模型 Bespoke-Minicheck 現已可在 Ollama 使用,可核對其他模型生成的回應,以偵測並減少模型幻覺。模型會將生成內容中的 Claim 與來源 Document 核對,並按文件是否支持該主張輸出 Yes 或 No。它尤其適用於檢索增強生成(RAG)應用,可在後處理階段檢查回應是否根據提供給 LLM 的檢索內容。
DeepSeek 將 deepseek-chat 升級至 DeepSeek-V2-0517,IFEval Benchmark Prompt-Level 準確率由 63.9% 升至 77.6%。
Mistral AI 發佈 Mistral Large 與 Mistral Small,並透過 Azure 提供 Mistral Large。Mistral Large 支援英語、法語、西班牙語、德語和意大利語,具備 32K tokens 上下文窗口及原生 function calling,並可用於文本理解、轉換和程式碼生成。
推薦理由:這次發佈同時涵蓋旗艦與低延遲型號,並以基準比較和多種接入渠道呈現兩款模型的能力定位及成本、延遲取向。