2026 年 11 月 LLM 調用實際成本:六款開放權重模型的每 1M tokens 價格
Synap by Linkrra 根據 2026-11-11 的公開價格,整理六款開放權重模型每 1M tokens 的費用,並以工作負載及實際分類請求比較每次調用成本。在 10,000 次、每次輸入 2,000 tokens、輸出 500 tokens 的估算中,批次價格約為即時價格的一半;實際分類測試中,gpt-oss-20b 按 token 單價最低,按每次請求成本卻排第四。
Synap by Linkrra 根據 2026-11-11 的公開價格,整理六款開放權重模型每 1M tokens 的費用,並以工作負載及實際分類請求比較每次調用成本。在 10,000 次、每次輸入 2,000 tokens、輸出 500 tokens 的估算中,批次價格約為即時價格的一半;實際分類測試中,gpt-oss-20b 按 token 單價最低,按每次請求成本卻排第四。
作者 Nathan Barry 把 Astra 為 Qwen3.5-0.8B 編輯權重的搜尋改寫成線性規劃,使用 Astra 的方向時,各項基準表現與原編輯相近,修改權重數量約少 8 倍。作者的 GPU 求解器約 1 分鐘完成一次求解,取代 Astra 約 8 小時的搜尋;使用啟發式方向也能達到原方法大部分效果。這項方法只在一個模型上測試,最佳結果仍依賴 Astra 提供的方向和層資訊。
英國政府宣佈,Sovereign AI Venture Fund 和 British Business Bank 支持 Fractile 一輪逾 £500 million 的 C 輪融資,公司估值逾 £5 billion。
英國 AI 晶片初創 Fractile 獲 Lightspeed、Alphabet 旗下 CapitalG 等投資者支持,完成超過 £500m 的 Series C 融資,估值逾 £5bn;公司稱本輪融資約 £540m。Fractile 設計用於 AI 推理的晶片,採用將數據直接留在晶片上的架構;公司稱其速度最高可比現有硬件快一百倍,並降低 90% 營運成本。這些專用晶片預計明年可供數據中心部署。
Valory 發佈開放權重模型 Olas-Predict-Qwen3.8-27B,在真實預測市場測試中取得 67.3% 平衡準確率,與 GPT-5.6 的 68.5% 相差 1.2 個百分點。兩者在 6,824 個可研究預測市場上使用相同提示詞及證據,結果來自 Valory 內部評估。與未經領域訓練的版本相比,微調後模型的平衡準確率提高 0.9 個百分點,Brier error 下降約 5%。
Torus 融資 $500m 並推出 Foundry,將預製 AI 運算系統部署到已有電力供應的企業及工廠場址。每個場址整合電力、儲能、冷卻、網絡及運算,規模由 1 至 20 megawatts,使用現有變壓器的閒置容量,毋須新增電網連接。
Torus 於 2026 年 11 月 11 日宣佈籌集 $500 million 成長資金,並推出預製模組化 AI 推理基礎設施 Foundry。Magnetar 領投,資金將用於擴大 Salt Lake City 的製造業務,並在美國部署供電及運算系統。Torus 表示,Foundry 每個站點可提供 1–20 megawatts 推理容量,從簽約到運行 AI 工作負載需 12–16 週。
o3、Claude 4.5 Opus 與 Gemini 2.5 Flash 的比較顯示,三者分別擅長深度推理、分析寫作,以及速度與成本效率。評測涵蓋50道數學題、30項編碼任務、20道邏輯題及10項商業分析;o3 解決23/30項編碼任務,並在高推理力度下答對全部邏輯題,Claude 在商業分析得分最高。
decision-cascade 是作者開發並開源的本地優先決策引擎,先讓小型本地模型處理請求,只有外部模型的預期效用較高時才升級。它會按錯誤成本、外部調用價格及用戶反饋更新的外部模型準確率計算效用,並在風險模型未能勝過簡單信心門檻時回退至門檻方案。
Salesforce 在 Dreamforce 2026 宣佈 Koa,這是一款專為 CRM 工作打造、供 Agentforce 智能體使用的推理模型。Salesforce 內部測試中,Koa 的多步 CRM 任務完成率為 87%、單步得分為 0.87,均高於 GPT-4.1,但略低於 GPT-5.5;「錯誤少三倍」的説法未見於論文。
QCon AI New York 2026 公佈 12 月 15–16 日完整議程,LinkedIn、Netflix、DoorDash 等公司的工程師將分享生產環境 AI 系統的智能體授權、評測、模型服務及 AI 輔助軟件交付。
研究測試語言模型中因果神經元羣組的必要性、替代性及跨輸入遷移情況。在 Qwen3-0.6B 的首都問答任務中,消融 12 個指定神經元令答案差距下降 27%;在兩跳關係鏈任務中,移植 12 個神經元的激活值可令答案轉向橋接實體,隨機神經元則未能做到。完整羣組通常並非必要,效果可遷移至同一關係鏈的改寫,但在其他測試鏈上弱得多。
Anthropic IPO 路演材料稱,Claude Mythos Preview 約用 3 天找出讓另一模型在 AMD MI355X GPU 上運行的方法。傳統上,為新計算平台完成推理適配通常需 6 至 12 個月。
百度發佈 ERNIE 5.5 Flash Preview,總參數 2,800 億、每 token 啟動 140 億參數,支援最長 100 萬 token 上下文。API 已在百度智能雲千帆推出,高峯時段輸入限時價為每百萬 token 人民幣 1 元;權重將於 11 月 25 日前以 Apache 2.0 授權開源。官方表示這是仍在後訓練中的中間版本,正式版本會再作改良。
聯發科技天璣9600 Pro 透過天璣AI智能體化引擎3.0及雙NPU設計,推動手機AI由被動響應轉向主動服務。第二代超能效NPU運行Always-On端側輕載模型時,功耗較上一代降低40%;超性能NPU 1090的INT4算力較上代翻倍。平台支援在端側運行最高30B參數的MoE模型,並以用戶授權為前提提供服務,商品選擇與購買等關鍵決策仍由用戶掌握。
Sable 提出論證系統及單 GPU 證明器,可逐位證明經承諾的整數量化 Transformer 會由指定提示詞產生指定 token 序列。
MiniMax 創辦人兼 CEO 閆俊傑在訪談中稱,美國 AI 生態以資本支撐封閉系統,中國則以效率支撐協作。他表示,算力短缺促使公司把推理成本壓縮列為核心指標,並稱以 10% 的成本達到前沿模型約 95% 的性能,最後 5% 的差距可能更難追趕。
阿里雲2026年雙十一優惠力度分層,低配伺服器與免費額度優惠最明顯,中配屬常規折扣,高配及 AI 產品力度正常。文章建議按首年價格加三年續費總額比較,而非只看折扣率;輕量伺服器38元與68元檔到期後可能回到每年400多元。99元e與199元u1均可同價續費但限購一台,後者僅限企業實名;阿里雲百鍊大模型服務平台的新用戶免費額度合計超7000萬Token,有效期90天且僅限華北2。
若美國凍結所有尚未開工的規劃數據中心項目,AI 發展會明顯減速但不會停擺。按文中的估算,美國數據中心總容量會在 2028 年前後停在約 120 至 150GW,有效算力年增速則會由約 12 至 15 倍降至約 6 倍。電力固定後,訓練須與推理及智能體服務競逐資源;文章提出提高硬件能效、跨機房分佈式訓練、轉向後訓練與強化學習,以及端側小模型等補充路線。
作者指出,AI 可以檢查大部分本科數學練習,但提問應聚焦於找出第一處無法由前文推出的步驟,而非籠統詢問證明是否正確。使用前可用刻意寫錯的證明測試模型,例如檢查它能否識別極限定義中量詞次序錯誤,並在每一步旁註明所依據的定義或結果。若需要更嚴格的檢查,作者建議學習 Lean,並提到 Terence Tao 已為 Analysis I 發佈按章編排的 Lean 配套材料。
中國尚未在晶片製造核心環節形成對等反制,但已在原材料、H200 市場准入及記憶體產能上具備非對稱影響力。文中引用的估算顯示,2025 年中國佔全球原生鎵供應 98.9%、鍺供應 68.6%;鎵、鍺等相關對美民用出口管制暫停至 2026 年 11 月 27 日。先進製程、EUV 光刻機和高端 HBM 仍是中國短期內難以突破的環節,文章據此將中美局勢概括為雙方各有對方難以替代的供應鏈節點。
MBZUAI 旗下 Institute of Foundation Models(IFM)發佈 PAN 2,一款面向物理智能的 29B 開源世界模型,權重、訓練程式碼及推理程式碼採 Apache 2.0 授權。
DeepSeek R1 在已公佈的推理基準測試中整體匹配或超越 OpenAI o1-preview,但 AIME 2024 的準確率優勢來自較長的推理鏈,並不代表 token 用量相同。
作者在 ONNX Runtime Web 1.27.0 的 Apple M4 桌面 Chromium 測試中發現,WebGPU adapter 不可用時,`['webgpu', 'wasm']` 會靜默改用 WASM,而 session 不會標示實際後端。
百度於 11 月 11 日發佈文心 5.5 Flash Preview,總參數量達 2800 億,每個 Token 啟用 140 億參數,支持最長 100 萬 Token 上下文。
作者以 Adzuki AI 的單一 OpenAI-compatible API,比較 7 款中國前沿模型並整理選型指南,明言這不是基準測試。選型需考慮提示詞快取、實際上下文需求及批次處理與延遲要求;所有模型的輸出 token 價格都比輸入高數倍。
arXiv 論文在三個開源模型上測得,服務 256K 上下文的每個生成 Token 成本比 16K 高 3.6 至 7 倍。文章以容量模型解釋 KV Cache 成本隨上下文增長的原因,並整理上下文壓縮的準確率變化、成本估算與盈虧判據。
百度文心大模型發佈 ERNIE 5.5 Flash Preview,這是基於此前 Base 模型的首個後訓練版本。模型總參數為 280B、激活參數為 14B,支援 1M 上下文;官方稱其在編程、3D 建模、知識工作及內容創作等方面表現出色,API 已在千帆平台上線,權重將於 11 月 25 日前開源。
阿里於 2026 年 11 月 11 日發佈 Qwen4-Max 預覽版,首發於 Token Plan,並接入千問辦公、Qoder 等入口。官方列出的升級方向包括知識理解、世界感知、編程與 Agentic,面向複雜編程、專業辦公、前端設計及專業軟件操作;預覽期至 11 月 25 日 24:00(UTC+8),期滿後模型標識下線。
vLLM v0.32.0 為 SM100 硬件上的 GLM-5.x 預設啟用 FP8 KV cache,v0.33.0 亦為 GLM-5.3-Flash 設定相同預設。
百度文心發布 ERNIE 5.5 Flash Preview,這是此前發布的 Base 模型首個後訓練版本,總參數為 280B、激活參數為 14B,支援 1M 上下文。模型 API 已在千帆平台上線,權重將於 11 月 25 日前開源。官方稱模型在多項基準測試中取得具競爭力的分數並保持極致解碼速度;後訓練仍在進行,Preview 可能存在因訓練不足導致的能力缺陷,正式版本將再作優化。
這項研究在 6 個模型的 1,668 次實驗中按生成 Token 數及訓練 GPU 小時配平計算量,發現密集過程獎勵用於語言模型推理時不及標準 GRPO,而挑選預測成功率接近一半的提示詞可提升準確率。
Google 向公眾發佈 Gemini 4 Carbon,稱其為旗下迄今最強模型,主打複雜、長週期任務,但普通付費用戶暫時無法使用。付費開發者及企業可透過 Gemini API 和 Gemini for Business 使用;一般消費者則須訂閲 Google AI Ultra,才可在 Gemini 應用及搜尋 AI 模式使用。
推薦理由:文章對照 Gemini 4 Carbon 的任務成本、模型排名與訂閲門檻,呈現企業採用成本優勢和一般付費用戶體驗限制之間的落差。
Baseten 使用內部 kernel harness 優化 DeepSeek V4.1 Flash 1017 的 80 多個 kernels 和瓶頸,採用 kernel fusion、Programmatic Dependent Launch(PDL)及 host loop minimization,製作出 Fast 版本。
Google 宣佈 Gemini 4 Carbon(gemini-4-carbon)正式開放使用,並稱其為面向持續智能體編碼、多模態知識工作、科學推理及網絡安全防禦的能力最強推理模型。
Transluce 的 Oversight Foundations 團隊提出訓練監督基礎模型,將關於目標模型行為的自然語言問題轉化為可檢驗的實證問題。方案把目標模型視為可透過 Python 程式介入和測量的「世界」,再訓練模型根據程式及已知輸出預測其他輸出,並透過執行程式取得 ground truth。
EVAThink 提出按視覺證據是否充足決定直接作答或進行推理的訓練方法,讓影片 VLM 自適應分配推理。方法以兩階段強化學習訓練,無需 SFT 冷啟動,並用首 token 優勢正則化穩定訓練。模型僅用 6.7K 個整理樣本訓練,在 32 和 64 幀設定下均提升影片理解基礎模型的表現,平均勝過強基線。
MMDM 是一項涵蓋 16 類任務的基準測試,包含 5,448 條問題,選項數由 2 至 1,024,輸入最長達 64,817 tokens。研究評估 28 個決策模型,發現不少模型在選項邏輯、受約束決策及多選任務上表現較弱。
Tree-Ising 將語言模型權重修復轉化為 BF16 權重上的稀疏 Ising/QUBO 最佳化問題,用於修復推理循環,無需梯度或 LLM tokens。在 Qwen3.5-0.8B 的兩層修復中,Tree-Ising 的 MATH-500 評分為 54.6%,高於原編輯方法的 51.7% 和基礎模型的 7.9%;模擬分岔求解器取得 55.1%。
Claude Fable 5.2 每百萬輸入及輸出 tokens 收費 $8 及 $40,是 Claude Opus 5.5 的兩倍;Anthropic 公佈的基準中,Opus 5.5 在 AA-Briefcase Elo 項目得分較高。