K2-Horizon:六款開源語言模型組成的前沿模型系列
K2-Horizon 論文提出六款全開放語言模型,規模由 0.9B dense 至 375B-A23B MoE,面向數學、科學、軟件工程、深度研究及辦公自動化等推理與智能體工作。
K2-Horizon 論文提出六款全開放語言模型,規模由 0.9B dense 至 375B-A23B MoE,面向數學、科學、軟件工程、深度研究及辦公自動化等推理與智能體工作。
InferenceKey 使用 llama.cpp 在 RTX A6000 和 RTX 3090 上測試 Ripple-65B,分析其推理速度、長上下文容量及量化檔案對程式碼生成的影響。
MIT 數學教授 John Urschel 認為,AI 時代仍須培養數學解題及定量思考能力,並透過理解 AI 提供的證明所結合的數學思路,真正掌握知識。Urschel 曾結合人的洞察與 AI 工具,在兩篇預印本中解決曾令數學家困惑數十年的問題;他指出,AI 能更有效率地完成某些數學工作,但人的理解仍然重要。
《Decoder》主持人 Nilay Patel 訪問 SemiAnalysis 分析師 Joey Brookhart,拆解 Anthropic 的 S-1 文件及其收入、算力與資本安排。
Tree-Ising 用約 $0.90 和 31 分鐘修復 Qwen3.5-0.8B,在 MATH-500@4 得分 54.6%,高於 GPT-6 Astra 智能體編輯的 51.7%。
Anthropic Frontier Red Team 聯同 EPFL、StarkWare、MIT 等研究人員發佈開源原型 FlashProve,以密碼學證明核實指定模型權重是否產生相應輸出 token。
Prefrontal AI 與 ETH Zurich 提出 Latent Sparse Attention(LSA),在 10M token 下使 GLM-5.3-Flash 單層 prefill 較原生稀疏注意力快 22.7 倍。
360集團副總裁卜思南否認涉貪腐被帶走調查,英偉達董事會則稱未考慮讓黃仁勳復任CEO;網易《哈利波特:魔法覺醒》宣佈明年3月3日起停止營運。停運原因是授權協議到期,遊戲曾創下月流水超過10億元的成績。
文章主張,中國 AI 產業不應把海外租用英偉達算力作為發展基礎,並應建立不依賴美國許可的算力體系。美國新規把第三國數據中心向中國等受管制地區提供遠程算力納入限制,符合條件且累計 TPP 超過 1200 萬的關聯集羣提供算力可能須申請許可證;新規亦要求重新審查既有相關算力服務,並設 90 日過渡安排。文章提出發展國產芯片及集羣軟件體系、以算法優化降低算力需求,並按任務把微調和推理盡可能轉向國產芯片。
推薦理由:文章將降低海外算力依賴拆解為供給體系、算法效率與任務配置三個層面,呈現算力自主涉及芯片以外的集羣、軟件與模型能力。
黃仁勳辭職後,英偉達的信用背書、AI 融資條件及模型層與算力層的利潤分配,成為產業重新評估的焦點。文中援引數據稱,開源模型處理19%的企業Token用量,僅佔模型支出的4%,而中國模型佔美國企業開源模型支出的89%。文章指出,約5305億美元的供應鏈採購、投資及客戶支持承諾凸顯個人判斷在信用安排中的作用,並以推理經濟、架構遷移成本和地緣政治供給分析後續變化。
DeepSeek 因算力資源緊張,對 App 及網頁版免費用戶啟用三項使用限制。7 天沒有互動的長對話不可續用,單次輸入上限約 4 萬字,每日對話達額後會提示「使用額度已達上限」;開發者 API 不受影響,仍按量計費。調整旨在回收閒置 KV cache、保障活躍用戶的推理體驗,近期 Token 調用量兩個月內激增近三倍,免費服務零收入與高算力成本亦形成矛盾。
Ollama 與 Together AI 説明,長時程智能體工作負載要維持效率,harness 需穩定提示詞前綴,推理引擎則需保留並命中前綴快取。以理想化例子計,100 輪無快取需處理 5,050 單位提示詞,使用快取則為 100。在模型支援時,延遲載入的工具定義可放在對話末端;引擎則應將請求路由至持有快取的節點,並可在工作階段閒置時把快取卸載至 CPU 記憶體。
研究評估了 10 個稀疏 MoE 模型,涵蓋 30B--1T 參數及 8--512 個專家,發現近期細粒度模型在低批次大小下的投機解碼加速效果更高,打破過往預測。驗證成本還受草稿 token 間的路由重疊及 GPU 執行特性影響;研究提出的 IPF 框架預測獨立啟用專家數量時,誤差低於 4%。
Alibaba 發佈大語言模型 Qwen4-Max,稱其輸出品質高於前代、成本更低,並採用 Qwen4 架構及升級的注意力機制。模型骨幹包含 2.4 trillion parameters,每次只啟用 71 billion;Alibaba 內部基準測試中,它完成任務最多少用 35% tokens,在 Terminal-Bench 4.0 少用 49%。
Nvidia 在 SC26 推出 Rubin HPC GPU,並公佈面向科研的軟件更新及量子計算合作。Rubin HPC 將配備超過 50,000 個 CUDA cores 和稀疏數據加速功能,計劃於 2028 年出貨。
英特爾公佈數據中心 GPU D270 的性能數據,在期權定價測試中,其應用吞吐量最高達 NVIDIA RTX PRO 6000 Blackwell 伺服器版的 5.9 倍。D270 功耗為 350W,對手為 600W;上述結果來自預生產晶片。D270 運行 Qwen 3 30B – A3B³ 時,吞吐量亦達同級別競品 GPU 的 1.12 倍。
丘成桐指出,培養數學人才須厚植教育沃土,守住對真理的好奇與獨立思考能力。求真書院建立由中學生到本碩博貫通的人才培養路徑,並以數學史和人文教育激發求知慾與創造力。AI是科研工具和夥伴,研究者不應盲從其結論;未來5到10年,中國有望在本土培養一批領軍數學家。
Preferred Networks 與 SEMIFIVE 合作開發 MN-Core L2000 Series AI 推理晶片,目標是提供超過 PFN L1000 Series 兩倍的記憶體頻寬。L2000 接替預定於 2027 年推出的 L1000,並計劃於同年第一季完成流片。Samsung Foundry 將負責製造邏輯晶片,兩家公司計劃在 SC26 展示 L2000。
Preferred Networks(PFN)與 SEMIFIVE 宣佈合作開發面向 AI 推理的 MN-Core L2000 系列,該系列是 MN-Core L1000 系列的下一代產品。新系列的記憶體頻寬將擴大至 MN-Core L1000 系列的 2 倍以上,並採用邏輯晶片與 DRAM 3D 堆疊。雙方預計於 2027 年第一季完成 tapeout。
阿里巴巴於 2026 年 11 月 16 日正式發佈 Qwen4-Max,千問 AI 平台同步開放 API 按量計費及 Token Plan 調用。
推薦理由:文章並列官方與第三方評測及成本口徑,呈現 Qwen4-Max 的效率和費用變化,也交代其在部分基準上的落差,便於按任務類型評估選型。
百度在第三季度業績公告中披露,崑崙芯 M100 預計於 2026 年底前具備量產條件。這款芯片於今年 7 月首次公開亮相,針對大規模 AI 推理進行優化。
Google 發佈開源 AI-Hypercomputer/tpu-codesign 指南,整理 TPU 模型設計與優化方法,涵蓋形狀對齊、架構選擇及並行策略。指南建議將歸約維度及輸出維度對齊 256,並按 TPU 實體鏈路配置並行軸;改造既有模型時,也可只調整並行方式而不改動 checkpoint。
Google 在 Tunix 中實作 Zero-TIM,令 TPU 上的 sampler decode、serving prefill 和 trainer 對每個採樣 token 的 logprob 達至位元級一致。
OpenAI 的 GPT-6 Astra 協助物理學家 Nathaniel Craig 把格點相位校正構想化為可行構造,並主導相關詳細證明。Maarten Golterman、Andreas Kronfeld 和 Yigal Shamir 審閲證明並提出問題;Craig 表示這項工作只是開始,距離實際模擬仍有大量工作。
Qwen3-235B-A22B-Instruct-2507 是由 Alibaba 團隊開發的 MoE 模型,總參數量為 235B,每個 token 啟用 22B,支援 119 種語言,採用 Apache 2.0 授權。模型原生上下文長度為 262.144 tokens,透過 YaRN 可延伸至約一百萬 tokens;實際採用仍須評估本地品質,並設計所需的基礎設施、資訊檢索及治理方案。
研究提出 RICoT,將頁面串流分段視為整段串流上的序列處理,並在滑動視窗間保留已讀內容摘要。在 FinancePSS-205 上,RICoT 對三款開放權重大語言模型的效果媲美或優於配對式及視窗提示;在 TABME 測試子集上,搭配 GLM-5 達到 document F1 0.847、boundary F1 0.915。
VSpark透過改良推測解碼,加速自回歸視覺語言動作模型,在多項機械人操作任務中達到 1.28x–2.10x 無損加速。方法包括校準動作噪聲 rollout、隱藏特徵對齊,以及重用被拒草稿的後續預測。測試涵蓋四個採用不同動作 tokenizer 的 VLA,以及四項操作基準。
論文提出一種高階注意力層,為每對項目以第三項作為見證,並在零温度下選取最高分見證及計算並列數量,只傳遞比較這些數量的位元。最大值檢索測試中,模型在規模為訓練集 1,000 倍的集合上,十個種子均達至少 99.95% 正確率;改用軟計數的同一網絡在 4,096 個項目時正確率降至 42%。
在三個購物基準測試中,提高 LLM 購物智能體的思考力度,未能在統計上改善產品選擇質素,卻顯著提高其自我報告的信心。大多數模型在不同思考力度下校準不佳,而且常在相同任務中出錯,甚至選中同一件錯誤產品。
NVIDIA 推出 Nemotron for Science,整合 Nemotron 3.5 Super VL 開放模型、化學數據集及後訓練配方,協助研究人員建立科學智能體。
NVIDIA Vera Rubin 平台首次亮相 MLPerf,在 MLPerf Training v6.1 橫掃所有基準項目,並於首次 MLPerf Endpoints 提交中領先智能體基準。
DeepSeek 傳因算力供應吃緊,對免費 App 及網頁版用戶實施每日對話配額,並將單次輸入上限收緊至約 40,000 個字元。OpenRouter 數據顯示,DeepSeek V4.1 Flash 於 11 月 9 日至 15 日錄得 59.2 萬億 tokens,較 9 月中旬的 15.8 萬億增加近三倍;付費 API 維持獨立計費與併發限制。
百度創辦人兼行政總裁李彥宏表示,隨着 AI 智能體應用擴大,推理運算將成為 AI 晶片長期增長的主要推動力。崑崙芯 M100 已按計劃出貨,預計於 2026 年底具備量產條件;旗艦晶片 M300 預計 2027 年推出,並於 2028 年推出採用全新 N 架構的多款晶片。
Yuh Gettin’ Tru 將本地產品描述增強流程的模型 build 從 gemma-4-E4B-it-qat-mxfp4 換成 gemma-4-E4B-it-oQ4e-mtp 後,實測吞吐量由 18.7 升至 26.2 tokens per second,約提升 40%。
本機推理把模型運算由模型服務 API 轉到自己的 CPU、GPU 和記憶體,令提示詞留在本機,費用則由按 token 計算改為硬件和電費。文章以 Ollama 和 llama.cpp 説明本機運行流程,並指出可用記憶體容量及頻寬會限制模型大小和生成速度。
Claude thinking tokens 會計入 output tokens,即使內容未顯示,仍按輸出價格收費。現行 Claude 模型的 output 價格是 input 的 5 倍;作者建議先調低 effort,並指出部分型號可關閉 thinking。
上海人工智能實驗室等機構推出並開源科學多模態大模型書生-S2.1 Flash;該模型在 MLE-bench Lite 得 90.3 分,排名第一。在 33 項通用智能體基準中,它取得 4 項第一、7 項第二;OfficeQA Pro、Harvey LAB 和 SpreadsheetBench 2 分別得 72.2、25.0 和 37.1 分。
Caltech 數學教授 Yi Ni 因學生使用 AI 完成功課,已不再按答案正確與否評分,只看是否完成。Ni 表示,他無法判斷學生的習題是否由 AI 完成;Caltech 尚未就數學教授如何應對 AI 制定統一指引。曾修讀該課的數學系學生 Sathvik Redrouthu 認為,依賴 AI 做功課可能令學生在現場考試時吃虧;他也提到,今年部分課程已註明允許使用 AI。
Qwen4-Max 發佈,採用異構 MoE 架構及 Dynamic Router-to-Weight(DRW)機制,並以 Block-Wise Cache Quantization(BWCQ)壓縮 KV cache。
Jennifer Prendki 離開 Google DeepMind 後創立 Dyssonance,提出重新思考人工智能的基礎,讓系統能處理模糊情況並持續修正理解。她指出,ChatGPT、Claude 和 Gemini 等系統雖能處理大量資訊,仍難以理解矛盾資訊、辨認錯誤並更新認知。Dyssonance 的方向是建立常識推理引擎,讓人工智能不只記憶更多,也能更好地理解。