OpenAI 稱其模型在數學、計算機科學及物理學產出三項證明
OpenAI 表示,其內部模型產出三項數學、計算機科學及物理學研究結果:證明各維度的 local smoothing conjecture、反駁 Exponential Time Hypothesis,並給出涵蓋 QCD 的量子場論存在性證明。
推薦理由:三項結果採取不同發布安排,數學稿與 Lean 證明公開、計算機科學結果供社羣核驗,物理材料則暫緩發布,呈現協作模式的取捨。
OpenAI 表示,其內部模型產出三項數學、計算機科學及物理學研究結果:證明各維度的 local smoothing conjecture、反駁 Exponential Time Hypothesis,並給出涵蓋 QCD 的量子場論存在性證明。
推薦理由:三項結果採取不同發布安排,數學稿與 Lean 證明公開、計算機科學結果供社羣核驗,物理材料則暫緩發布,呈現協作模式的取捨。
作者在 RTX 3090 上以 8B 本地模型實作推理時擴展,透過多次抽樣配合自一致性投票或外部驗證,提升可驗證任務的答案準確度,毋須重新訓練模型。使用 llama.cpp 的 8 個並行 slot 時,生成 500 個 token 的 8 個並行請求約需 8-9 秒,單一請求約需 5 秒。文章亦提供答案正規化、以一致率作信心值和程式碼沙盒的做法,並説明開放式任務及較弱模型不適合直接採用。
推理模型會在輸出答案前投入額外推理運算,生成中間推理 token,以提升難題的準確度,但會增加延遲和成本。這不是使用更大的模型,而是讓同一模型有更多時間處理每個查詢。多步數學、邏輯、除錯及規劃任務較能受益;簡單查詢則可能只增加延遲和成本,按任務難度選擇推理模式較合適。
OpenAI 發佈 GPT-6.1 Terra,API 價格較 GPT-5.6 Terra 減半,並在多項推理、編碼和電腦操作基準上提升表現。
推薦理由:文章將 GPT-6.1 Terra 與前代及其他模型的價格、基準表現和安全測試並列,呈現其成本與任務能力的具體取捨。
文章提出智能體功能上線前的推理容量規劃方法,要求按單一成功任務路徑計算模型步驟、檢索、工具呼叫、驗證及重試。表格須以實測填入模型 token 用量、併發量、延遲、功耗、網絡速度、主機或 GPU 數量及 kernel 佔比;未量度的項目應視為未知,並限制上線併發量或暫緩功能。
LOWN 在擴散視覺語言模型解碼時,按預測是否一致決定何時處理圖像,並以獲得證書的 token 數量決定每步解除遮罩的 token 數量。在十個基準測試中,無需訓練或調校閾值,LOwn 平均只用 35.3% 的解碼 FLOPs,便保留 LLaDA-V 99.6% 的評分。它亦適用於其他基於 LLaDA 的擴散視覺語言模型,並可與視覺 token 剪枝及 KV cache 配合。
Metis-1.6 技術報告介紹作者從零訓練的兩款推理模型 Logos 和 Praxis,每個 token 都以相同權重經過同一組 20 層兩次。兩者主要採用 Mamba-2,只有 3 層使用 attention,且沒有位置編碼;Logos 有 10.23B 參數、每個 token 使用 2.36B,Praxis 有 2.94B 參數,4-bit 下可放入 2 GB。
MACR 提出以信心引導觸發和競標機制動態轉移推理任務的多智能體接力框架,讓後續智能體承接並完善推理過程。在四個基準測試中,MACR 的準確度勝過最強單模型策略,在 MathVista 和 MMStar 分別提升 3.3% 和 3.9%;在 HallusionBench 和 MMStar 上,token 開銷比多智能體策略少 6.0 倍。
OpenFrontiers 將跨學科開放研究問題語料庫與數學基準結合,用來評估 LLM 智能體在不同資訊存取條件下重新發現解答的能力。語料庫收錄 12,151 個問題;基準包含 200 道數學問題,其中 110 道於 2026 年解決、90 道仍未解決。
Arm 作者以 ExecuTorch 在 Google Pixel 11 測試 Nemotron 3.5 串流語音識別,分析分塊大小、數值精度與 SME2 的效能影響。
在真人牌桌的 1,342 次決策中,GLM 4.7 Flash 有 88 次被標記為錯稱手牌;GPT-6 Astra 的 1,397 次決策則沒有相關標記。抽查 GLM 的 15 次標記,有 13 次確實錯稱手牌;Astra 的 15 個手牌描述則全都符合引擎記錄。標記依賴正則表達式,可能有誤判,零標記亦不代表完全沒有錯誤。
ASRock Creator Radeon AI Pro R9700 評測聚焦這款採用 RDNA 4 的工作站顯示卡,它是 AMD 目前 AI 能力最強的工作站卡。顯示卡配備 32GB GDDR6,FP8 峯值矩陣運算效能為 382.7 TFLOPS,功耗為 300W。它支援 FP8,亦可用 FP8 執行 FP6 和 FP4。
YC Paper Club 多位講者以 DeepSeek-V3 的訓練與日常推理用量估算,指出模型權重使用 2 年時,推理算力消耗可達訓練的 12 倍。分享梳理 Prefill、Decode、KV Cache、調度、內核、量化及編譯器優化,也指出同一開源模型在不同推理服務商可能出現質素差異。
Ubicloud 為 Kimi K2.6 和 DeepSeek V4 Flash 啟用 vLLM 受限解碼,將 K2VV ToolCall 基準的工具調用 schema 準確率由 92% 提升至 100%。受限解碼按工具 schema 限制生成 token,避免不符合格式的工具調用;Ubicloud 確認所服務的所有模型版本均達到 100% 後,將改動部署至正式環境。
月之暗面旗下 Kimi 智能助手在 K3.1 Pro 上線 48 小時後,就訂閲會員遇到的限流及額度異常消耗致歉,並公佈補償方案。有效期內的訂閲會員可獲月度總額25%的用量補償;若已用額度不足月度總額25%,用量將重置為0。報道引述資料稱,智能體單次任務的 Token 消耗可達普通對話的10至100倍,並分析這對推理成本、算力供給及訂閲模式帶來的壓力。
Cohere Labs 的開放科學項目透過多語言文化謎語,測試 AI 模型的語言流暢度、邏輯推理及文化知識。項目吸引來自 50 多個國家的 100 多名參與者,結果顯示模型可能答得頭頭是道,卻缺乏特定文化和語言知識,甚至出現模型幻覺。
文章以 f(x)=20+10x 解釋大模型的函數結構,並以 GPT-3 説明將 TransformerBlock 重複套用 96 次的函數複合。文中指出,GPT-3 有 1750 億個參數;訓練會調整參數,推理則使用固定參數。文章並以定義域和高維外推説明,輸入超出訓練分佈時,模型仍可能輸出缺乏依據的答案;損失地形圖則只是高維空間的低維切片。
文章拆解 AI 推理如何使用訓練後固定的參數完成請求,並説明大語言模型逐 token 生成及推理服務的工程流程。大語言模型先以 Prefill 處理提示詞,再於 Decode 階段逐 token 生成;服務系統需要在延遲、吞吐量與並發之間取捨。文中指出,模型生命週期內推理算力往往超過訓練算力 10 倍以上,並指出聊天產品應關注首字延遲,Agent 應關注端到端延遲。
Harish Kotra 以 Perplexity 的 pplx-decider-flash-v1.2 搭建公開決策工具,按證據量及回答穩定性呈現概率結果。這個 4B 模型在缺乏上下文時可能只反映偏向「是」的先驗,因此介面會把證據分數低於 0.15 的結果標為猜測,並以三種問法的結果差異提示不穩定性。
西部數據 2026 年 HDD 產能已全數售罄,2027 財年第一季度營收按年增長 55%。長期供應協議已簽至 2028 年,前七大核心客戶訂單可見度延伸至 2030 至 2031 年。管理層表示收入與出貨量仍受供給能力限制,文章指出 AI 訓練數據集、歷史版本、日誌、影片及備份等長期保存需求推高儲存容量需求。
IBM 的最新軟件生態更新透過 torch-spyre、Spyre 的 vLLM 插件、編譯器改進及持續整合,讓 Spyre 更深入融入 PyTorch 生態系統。
Claude Opus 5.5 用 10 小時重現 Emre Onur Kahya 博士論文中的量子引力計算,並指出原手稿有多處計算錯誤。據文中所述,它產出 183 頁推導筆記、LaTeX 源碼及驗證腳本,並用 SymPy 和 mpmath 完成 38 項數值校驗。
研究提出一種以 Grassmann 流為基礎、無需注意力的序列模型架構,透過 Grassmann 流形上的低秩子空間傳遞資訊。在 Wikitext-2 上,參數量為 13 至 18 million 的純 Grassmann 模型,驗證困惑度與參數量相近的 Transformer 相差約 10% 至 15%。
OpenRouter 10月19日至25日全球AI大模型調用量榜中,DeepSeek於10月17日更新的V4.1-Flash-1017以33.6萬億Token居首,環比增長801%。
開源項目 GPU-Unlock 透過修改顯示卡驅動程式載入前的配置暫存器,繞過 RTX 20、30 及 40 系列顯示卡的軟件限制,令部分型號的 AI 張量吞吐量接近翻倍。
MMGR 是一項用於評估影片、圖像和語言系統生成式推理能力的基準,涵蓋抽象推理、具身導航和物理常識三大領域的 10 項任務。研究發現,模型的視覺質素與推理正確率之間存在明顯差距:影片模型在物理常識任務上表現最佳,但在符號任務及跨視角具身導航中能力較弱、穩定性較差。
DeepSeek 新一輪融資據報超募至 1000 億元,若完成交割,半年內累計吸納資本將超過 1500 億元。報道指本輪投前估值約 5000 億元,投資方以產業資本為主;另有報道指公司正籌備科創板上市。DeepSeek 近期開源推理框架 DeepInfer 及編解碼組件 DeepSeek-recipe;梁文鋒表示,團隊以 AGI 研究為先,商業化並非首要目標。
Moonshot AI 於 2026 年 10 月 23 日發佈多模態 MoE 模型 Kimi K3.1 Pro,並推出速度快 2–3 倍的 Kimi K3.1 Pro Highspeed。
GitHub 開源工具可解除 RTX 20、30、40 系顯示卡 Tensor 核心部分限速,部分峯值測試接近增倍;RTX 5090 暫無已證實解法。實際應用升幅較小,RTX 4090 的 cuBLAS FP16 測試快 12% 至 34%,BF16 在兩種矩陣大小快 16% 至 20%,但在 4096³ 幾乎沒有分別。
本週 AI/開發者圈有多項更新,Claude Code 兩名開發者同日宣佈離開 Anthropic,Kimi K3.1 Pro 與 MiniMax M3.1 Flash 相繼推出。Kimi K3.1 Pro 支援 100 萬上下文;MiniMax M3.1 Flash 官方稱推理速度較前代提升近 3 倍。DeepSeek 亦開源自研推理框架 DeepInfer。
NVIDIA RTX PRO 6000 Blackwell 配備 96GB GDDR7 記憶體,可用於大型語言模型推理、生成式 AI 及電腦視覺等工作負載。70B 模型以約 8-bit 精度運行時,模型權重約需 70GB,推理引擎和 KV cache 亦需額外記憶體,實際需求視乎模型和部署設定。
小鵬汽車旗下 Robotaxi 業務「小鵬悠遊」獲批 L4 級自動駕駛示範營運資格,可在廣州全域開展示範營運。其首款車型基於 GX 打造,搭載 4 顆自研圖靈 AI 芯片,車端有效算力達 3000TOPS,並採用第二代 VLA 視覺語言動作大模型及純視覺方案。小鵬計劃以技術輸出和生態合作推進營運,並計劃於 2026 年內完成試營運及中小規模常態化示範營運。
Jinesis AI Lab 開放學生研究員、博士、博士後及實習生等研究職位,並為全球不同背景人士提供遠程科研指導。學生研究員研究期為 6 個月至 2 年;博士申請可經多倫多大學、ELLIS 或馬克斯‑普朗克研究所渠道提交。實驗室亦提供少量線下實習機會,並提醒申請者留意簽證與合規要求。
T²Quant 以按任務及擴散時間步調整位寬的混合精度量化,改善擴散式大語言模型在裝置端推理時的量化誤差。基準測試顯示,在 7-B 模型上,它較 8-bit pipeline 減少 69% 記憶體用量、降低 45% 延遲,並保留逾 90% 的 FP32 品質。
阿貢國家實驗室與伊利諾伊大學厄巴納-香檳分校主導開發的 CritPt v2 正式發布,用於評測大模型解答前沿物理科研難題的推理能力。數據集由全球 60 多位物理科研人員編寫,測試集包含 70 道挑戰題;公開榜單統計 11 款模型,GPT‑6 Astra (Max) 以 83.1% 得分排名第一。數據集不對公眾開放,審核通過的實驗室及科研人員可申請使用打分 API。
Readable‑Intelligence 平台收錄 OpenAI 公開的 722 篇 AI 生成數學手稿,提供可讀改寫版本,降低理解門檻。目前已完成 6 篇重點論文改寫,並提供論文邏輯圖譜、互動式 AI 助手及社區協作閲讀功能。
趨境科技完成 B 輪融資,本輪金額超13億人民幣,年內累計募資24億人民幣。資金將用於高品質 AI Token 產能擴張、ATaaS 平台升級、推理技術及新產品研發等。過去半年,公司日均高品質 AI Token 產量增長超過百倍、升至超萬億量級,年內業務收入達去年全年近十倍。
趨境科技完成超13億元人民幣B輪融資,年內累計募資達24億元。浙財資本、蕭山資本、工銀投資、中關村科學城、星連資本及錢江世紀城共同領投,跟投方包括商湯科技和網宿科技;多家投資方亦參與算力產能及Token工廠合作。公司稱,6月單月收入超過2025年全年,年內業務收入接近去年全年的十倍,整體業務已跨過成本線。
趨境科技(Approaching.AI)完成超13億元人民幣B輪融資,年內累計募資24億元人民幣。本輪資金將用於擴大高品質 AI Token 產能、升級 ATaaS 平台、研發推理底層技術和新產品,並完善商業合作及交付體系。文中稱,過去半年其高品質 AI Token 日均產量增長超過百倍,年內業務收入已達去年全年近十倍。
生成式 AI 可快速生成貼合語境、彼此不同的惡意郵件,削弱傳統郵件檢測依賴的語病、通用話術和模板線索,文章主張轉向意圖推理。檢測框架應保留傳統規則與行為檢測,再以分層推理和智能體化調查補足;意圖判斷仍受組織關係資料和多模態分析能力限制。