跳到正文
10月23日週五
  1. IT Square · AI78

    NVIDIA RTX Spark 筆電開賣,最高提供 1 petaflop FP4 效能及 128GB 統一記憶體

    NVIDIA 開賣 RTX Spark 筆電,最高提供 1 petaflop FP4 AI 效能及 128GB 統一記憶體。產品以 Blackwell RTX GPU 和 Grace CPU 組成單一超級晶片,支援在本機執行 AI 模型及代理。RTX Spark 筆電全球起售價為 2,599 美元,香港定價及上市安排尚未公佈。

    推薦理由:RTX Spark 把最高 128GB 統一記憶體、1 petaflop FP4 效能與本地代理帶入 Windows 筆電,呈現其兼顧創作與 AI 工作流的定位。

  2. DEV Community59

    LLM 回應緩慢時,GPU 未必是問題所在

    Ahmed Adawy提出一套診斷生產環境 AI 系統延遲的方法,建議先找出請求在哪些環節耗時,再考慮調整硬件或模型。他建議記錄檢索、模型首段內容及串流轉發等階段,並按模型、輸入長度和版本等維度比較追蹤資料。文中的檢索設定案例使用虛構數字;作者建議在控制模型等條件下進行對照測試,同時評估延遲和答案質素。

  3. DEV Community45

    Video2Law 如何從影片推導物理定律並找出不可見物體

    Video2Law 可分析物體擺動影片,自動推導運動方程式、能量公式及摩擦造成的能量流失,並預測後續運動。Neptune Mode 僅憑可見擺錘的運動推算隱藏擺錘,在測試中定位誤差少於半釐米;目前只以模擬影片測試,尚未測試真實手機影片。另有一個可在筆記本電腦 GPU 上全離線運作的 AI 助手,負責操作應用程式,不負責物理推導。

  4. HuggingFace Daily Papers(社區熱門論文)39

    Ψ-0.6:統一視覺語言世界模型中的自適應思維流

    Ψ-0.6 是一個統一視覺語言世界模型,能在共享推理過程中自適應組合感知、語言、幾何與模擬,以提升空間推理及反事實模擬能力。它在多視角空間推理中零樣本超越領先的開放權重模型,並可透過幾何中間表示進一步提升表現。以任務回饋進行的強化學習可提升視覺問答準確度,且增益能遷移至未見過的基準測試。

  5. HuggingFace Daily Papers(社區熱門論文)42

    Principia:測試時假設轉化為原理,推動科學發現

    Principia 是一個基於 LLM 的框架,可在推理期間建構並反覆修訂科學原理,以推動分子及生物任務的科學發現。它從相關輸入及觀察結果形成因果假設,再歸納反覆出現的關係為原理,並根據新觀察持續更新假設與原理。在涵蓋分子最佳化、蛋白質工程、基因擾動及分子性質預測的基準測試中,Principia 表現優於依賴內部知識、外部來源或經驗摘要的基線。

  6. HuggingFace Daily Papers(社區熱門論文)34

    On-Policy Self-Training:大型語言模型在無需人工問答下自我改進

    On-Policy Self-Training(OPST)將 on-policy self-distillation 重構為自我訓練框架,讓大型語言模型在無需人工整理問答的情況下提升語言及多模態推理,並勝過其他訓練策略。模型根據高層次主題描述自行生成問題、答案及特權推理示範,再以偽驗證篩選可在新語境及改述下重現答案的問題。

  7. Unite.AI71

    Microsoft MAI-DxO 在《Science》研究的複雜病例診斷中準確率高於普通科醫生

    Microsoft MAI-DxO 在《Science》研究的《新英格蘭醫學雜誌》病例中取得 83.2% 診斷準確率,高於使用參考資料的普通科醫生(36.1%)。研究以 SDBench 將 304 宗《新英格蘭醫學雜誌》病例及 325 宗急症室收治病例轉為逐步互動診斷,並按準確率及檢查成本評估系統。作者指出,結果來自受控模擬,並非與專科醫生、多專科團隊或真實臨牀實踐比較。

  8. TechCrunch · AI63

    Microsoft MAI-DxO 複雜病例模擬診斷準確率達 83%,Suleyman稱這是邁向「醫療超級智能」的一步

    Microsoft 的 MAI-DxO 在以《新英格蘭醫學期刊》複雜病例進行的模擬中,診斷正確率達 83%,高於單獨工作的基層醫生及普通內科醫生的 36%。不過,這類複雜病例通常由專科醫生或醫療團隊處理,他們未納入比較。研究亦指出,準確率提升很大程度來自更強的底層 AI 模型,DxO 協調系統在此之上再帶來增益,並在複雜病例及能力較弱的模型上幫助較大。

  9. Cohere 產品與研究博客45

    重新思考推理模型的信心評估

    CALIBER 訓練推理模型在作答前估計解題成功率,並在作答後評估答案正確性。於 BigMathDigits 評測中,CALIBER 的 7B 模型 ECE 為 0.028,低於最強單一信心基線的 0.059,降幅達 52.5%;AUROC 為 0.806,Brier 分數為 0.130。模型以 30,000 道數學題訓練,並在 1,000 道保留題目及三項問答基準上評估。

  10. DEV Community67

    Flint 是編碼模型,AI 能否打造下一代模型才是更大考驗

    Recursive 發佈開放權重編碼模型 Flint,並稱 Eureka Machine 協助設計及改進訓練、架構和針對硬件優化的推理程式碼等模型管線部分。作者將模型本身的效用與 AI 自主、反覆改進自身的主張分開,指出現有公開證據只支持 AI 輔助研究參與 Flint 開發,未能證明後者。文章認為,下一步需公開可重現的改進流程,讓外界核查系統的貢獻、成本及自主程度。

10月22日週四
  1. DEV Community47

    AI 智能體稱「95% 信心」:誰作過量度?

    DecisionPivot 基準測試指出,模型自行生成的「95% 信心」分數未經校準,不能單獨作為決策依據。測試涵蓋 48 項任務及約 40,000 個項目;兩個 27B 模型在參考測試的分數只差 2.6 個百分點,在對比組別的準確率卻分別為 70.1% 和 44.2%。要以信心門檻作決策準則,須先在團隊使用的領域驗證其錯誤率是否可接受。

  2. DEV Community45

    [影片] 在 16 GB MacBookPro 上執行 Nemotron Dory 1.0 4B

    Nemotron Dory 1.0 4B 是 NVIDIA 的 4B 循環模型,實測可在 16GB MacBook Pro 上執行。測試使用約 4 GB 的 8-bit MLX 量化版本;模型可在推理時讓中間層運行 1、2 或 4 次,以調整「思考」程度。由於 MLX Serve 尚未原生支援,測試透過社羣 dory-mlx 套件進行,編碼任務耗時約五分鐘。

  3. HuggingFace Daily Papers(社區熱門論文)38

    ToM2Vec:用於多智能體協作的連續心智理論 token

    ToM2Vec 透過連續潛在推理 token 學習抽象的夥伴狀態表徵,提升多智能體在不同情境中的協作表現。研究在合作、競爭及混合動機環境中評估,結果顯示其表現持續優於基礎模型及多種具競爭力的訓練和提示基線,並可泛化至訓練時未見的模型系列,包括專有模型 GPT-5.4。

  4. 雷鋒網48

    螞蟻數科發布決策模型 LingDT-Decision-1.0,評測準確率超越多款決策模型

    螞蟻數科發布決策模型 LingDT-Decision-1.0,提供4B和27B版本,並已在螞蟻數科 DTMaaS 平台上線,開發者可限時免費體驗。模型在23項開源評測基準中取得高分,27B版本綜合評分位居第一,準確率超越 Microsoft-Decision-1、Jev 1.13.0 等模型。真人業務測試顯示,模型在部分任務中可減少超90%的 Token 消耗,並提升處理速度。

  5. 新浪科技43

    王興興與姚明跨界對談:機器人打籃球還差什麼?

    宇樹科技董事長、創始人、CEO王興興與姚明在杭州談機器人打籃球還面臨的挑戰,指出機器人目前的複雜預判、手指靈活性和控球能力仍有限。王興興認為,提升機器人能力既要提高AI模型水平,也要改進底層硬件和運動控制;AI模型輸入輸出與真實機器人的對齊仍是具身智能的挑戰。

  6. DEV Community23

    如何在不使用 LLM 的情況下實現 AI 式推理

    符號推理系統透過明確規則、約束求解器和啟發式搜尋,將問題拆解為可驗證的操作,在不依賴 LLM 的情況下實現 AI 式推理。文章以 A* 搜尋的成本估算及邏輯狀態機為例,説明如何透過剪枝和確定性求解,提升推理過程的可追蹤性。

  7. DoNews43

    螞蟻數科發佈決策模型 LingDT-Decision-1.0

    螞蟻數科發佈決策模型 LingDT-Decision-1.0,提供 4B 和 27B 兩個版本,支援原生多選與按序決策。在 23 項開源評測基準中,其表現超過 Microsoft-Decision-1、Jev 1.13. 等模型;團隊測試顯示,處理同樣任務時,Token 消耗降低超 90%,響應時效提升 10 倍。目前模型已在螞蟻數科 DTMaaS 平台上線,開發者可限時免費體驗。

  8. InfoWorld46

    為何推理模型不應讀取所有資料

    推理模型不應每次都讀取全部數據;把推理與數值計算分開,可避免昂貴模型處理可由傳統系統完成的工作。Opetek 的基準測試以 10 年 EUR/USD 數據計算已實現波動率,將計算移出推理層後,單次查詢成本由約 $0.80 降至約 $0.07,減幅約 90%。文章指出,AI 效率亦取決於檢索效率及計算架構,而非只靠更大的上下文窗口。

  9. DEV Community70

    LLM 的「93% 信心」只是一段字串,並非概率

    LLM 輸出的信心分數若未按實際結果校準,就只是生成文字,不能直接當作概率用於自動決策。作者建議記錄每次決策的信心分數、切片資料及最終正誤,按覆蓋率與選擇性準確率繪製曲線,並檢查校準分箱及各切片表現。模型、提示詞或輸入分佈改變時,應重新測試。

  10. HuggingFace Daily Papers(社區熱門論文)40

    PACE:週期性及通道對齊的四位元循環狀態編碼

    PACE 提出免微調的線性注意力循環狀態事後四位元量化方法,透過減少捨入頻率及按列共用量化尺度降低誤差和記憶體用量。在 4B 至 35B 參數的四個混合模型中,混合四位元與八位元頭的 PACE 在三個較大型模型上,以約三分之二的記憶體用量達到與八位元 DAMP 相若的表現;全用四位元頭時則在相同記憶體用量下得分高於 Q-Mamba,且保留緩衝區的解碼加速。

  11. Dify Blog64

    如何在 Dify.AI 設定並使用 OpenAI o1 模型?

    Dify.AI 説明如何在平台設定 OpenAI o1,並建立 Chatflow 使用該模型。文中指出,ChatGPT Plus 和 Team 用戶可存取 o1;開發者則須達 API Tier 5(至少向 OpenAI 支付 $1,000),API 呼叫上限為 20 RPM。免費帳戶可使用 200 則訊息,Team 版包含 10,000 則訊息額度。

  12. 新浪科技68

    中國科技大廠將自研 AI 晶片推向市場,探索硬件銷售與業務分拆

    中國科技大廠正將自研 AI 晶片推向市場,並透過超節點等硬件方案及晶片業務分拆,探索模型以外的變現路徑。IDC數據顯示,2026年上半年中國數據中心 AI 加速器出貨量達200.8萬顆,非GPU加速器出貨101.6萬顆,首次超過GPU;英偉達和華為的市場份額分別為34%和28%。模型調用與推理需求增長為自研晶片帶來外部訂單,而晶圓及HBM供應緊張,令產能取得成為競爭焦點。

  13. Chroma Research62

    Context Rot:輸入 token 增加如何影響 LLM 表現

    Chroma Research 測試 18 個 LLM,發現輸入長度增加時,模型在長上下文任務中的表現會下降,且退化並不一致。研究固定任務難度、只改變輸入長度,並發現問答相似度、幹擾項和 haystack 結構都會影響模型表現;打亂句序的 haystack 表現較佳。LongMemEval 測試中,平均約 113k tokens 的完整輸入表現低於平均約 300 tokens 的聚焦輸入。

  14. HuggingFace Daily Papers(社區熱門論文)42

    TraceForge:以自身推理風格進行蒸餾

    TraceForge提出兩階段監督式與對抗式方法,根據上下文及教師模型答案合成符合學生模型風格的推理痕跡,無需依賴隱藏輸出。在使用相同5,000條問題及教師答案的編碼測試中,最終檢查點的 HumanEval+ 提升3.7分,MBPP+ 提升7.1分。研究在五個基準測試中評估此方法。

  15. HuggingFace Daily Papers(社區熱門論文)34

    SpatialBrain:透過經驗提升空間推理能力

    SpatialBrain 是一套提升空間推理能力的框架,透過區分場景證據與推理經驗,在固定視覺語言主幹模型的前提下引導工具使用。框架整合空間記憶、可重用的技能程序及經整理的流程記錄,累積和運用過往經驗。在五項空間推理基準測試中,SpatialBrain 在四項優於同一主幹模型直接作答,另一項則表現相同。

  16. 中華網科技73

    NVIDIA 獲字節跳動、阿里巴巴和騰訊 RTX PRO 5500 訂單,潛在總值逾 350 億美元

    路透社報道,字節跳動、阿里巴巴和騰訊合共訂購逾 300 萬張 NVIDIA RTX PRO 5500 工作站 GPU,潛在總值逾 350 億美元。據報道,中國客戶訂單量逾 600 萬張,而 NVIDIA 2027 年全球產量可能不超過 300 萬張。中國買家主要用這款顯示卡進行 AI 推理,NVIDIA 計劃於 2027 年第一季開始商業出貨。