跳到正文
10月17日週六
  1. DEV Community78

    Reflection AI 開源 501B 參數 Beam 權重及 Mirror CLI 訓練工具

    Reflection AI 本週開源 Beam 的 501B 參數權重及實際訓練工具 Mirror CLI,權重採用 Apache 2.0 授權。Beam 是稀疏混合專家模型,總參數為 501B、每個 token 啟用 23B,提供 BF16、FP8 和 NVFP4 三種權重格式。目前沒有獨立基準測試,文中的效能説法來自廠商資料。

    推薦理由:Mirror CLI 隨 Beam 一同開源,讓讀者看到權重以外的訓練流程,並評估其對微調及預訓練研究的參考價值。

  2. 創業邦55

    無問芯穹保密遞交港交所 IPO 申請,算力調度轉向 Token 服務

    無問芯穹已以保密形式向港交所遞交 IPO 申請,計劃募資數億美元,最早可能於2027年上半年上市。公司正以「前店後廠一中心」框架,由出售算力轉向提供 Token 服務;截至2026年4月底,平台日均 Token 調用量較2025年底增長超20倍。文章指出,這套商業模式的盈利能力尚未經財報驗證,並面對上下游擠壓風險。

  3. MarkTechPost65

    2026 年 20 個 Jev 替代方案比較:決策模型如何挑戰 TypeSafe

    TypeSafe 於 2026 年 9 月 15 日推出 Jev,約 4 週內至少出現 20 個替代方案。文章比較這些決策模型的規模、授權、硬件需求、價格、Jev API 相容性及基準成績,涵蓋託管服務與可自行部署的模型。多數基準由發布方自行測試,不同測試集的分數不可直接比較;Respan 測試中 Jev 準確率為 0.932,Tev1 為 0.901。

  4. DEV Community58

    以 MonkeyCode 為例,如何把免費推理服務拆分為三個平面

    Harper Xu 提出免費推理服務的三平面設計方法,把狀態、模型推理,以及跨越單次請求的工作分置處理。文章建議自有帳本先預留估算用量,超出上限便將工作排隊,批次前以 canary 檢查可達性,並令工作具冪等性,以便伺服器重啟後重播。MonkeyCode 是文中案例,提供免費模型存取及免費伺服器選項;文中稱撰寫時宣傳額度為 10M tokens,並提醒重新查看現行條款。

  5. 第一財經76

    書生-S2協助中國團隊破解三維 Ghys 猜想,AI改變數學研究方式

    許地生團隊以書生科學多模態大模型 S2 協作完成三維 Ghys 猜想證明,董彬、劉若川團隊則用 SHEAF 框架作形式化驗證。S2先產出400頁推導報告,經7批接續推演及人類篩選、提示後,問題圖由15個節點擴展至389個,推導總量達千頁。報道探討這種人機協作可能擴大數學家可探索的問題範圍,同時提及成果核驗、歸屬及學術交流等疑慮。

    推薦理由:這個案例呈現模型提出跨領域思路、研究者篩選校準並完成證明的協作鏈路,也交代成果核驗與歸屬引發的爭議。

  6. DEV Community58

    GPU 基準測試可能失準:如何在熱節流下正確測量 LLM 推理效能

    作者分享一套測量 LLM 推理效能的方法,指出 30 秒基準測試可能高估 GPU 長時間運行時的吞吐量。其團隊曾測得 42 tokens/s,長時間運行後實際只有 37–38 tokens/s,產能因此短缺近 10%。文章建議至少測試 10–15 分鐘,同步記錄 SM 時鐘、温度和功耗,並分開比較 prefill 與 decode 的穩態數據,採用 median 和 p10。

  7. DEV Community49

    測試時能力遷移:Harness 才是導師

    較強模型可透過建立 Harness,在不重新訓練下把能力轉移給較弱模型,提升其推理時表現。四項 Theory-of-Mind 評測中,弱模型平均分由 0.49 升至 0.91;提升來自把不穩定推理交由確定性程式碼處理、路由及嚴格答案格式限制。最弱的目標模型獲益最大。

  8. HuggingFace Daily Papers(社區熱門論文)34

    Progress-Aware Distillation:緩解小型語言模型智能體的進展停滯

    Progress-Aware Distillation(ProD)透過偵測及懲罰蒸餾小型語言模型智能體的進展停滯,提升其推理效率和任務成功率。它把學生模型與教師模型之間的停滯差距編碼為自適應邊際,以動態懲罰可能的停滯。涵蓋 8 個、參數規模由 0.6B 至 8B 的小型語言模型實驗顯示,ProD 能減輕停滯,並提升成功率及任務完成效率。

  9. HuggingFace Daily Papers(社區熱門論文)35

    ECHO:超越輔助式多 token 預測的高效因果自遞歸

    ECHO 將多視野預測整合至骨幹模型的自遞歸機制,並以動態深度取樣提升預訓練效率及推理草擬能力,毋須輔助模組。預訓練在推理與程式碼任務上提升下游準確度,開銷僅為訓練所有深度的 MTP 一半。推理時,模型可生成超出訓練深度的草稿,並在開放式高熵生成中維持草稿與目標模型的對齊。

  10. HuggingFace Daily Papers(社區熱門論文)39

    Axiomatic World Modeling for Physics Reasoning:以公理化世界建模提升物理推理

    RLAWM 透過懲罰模型內部公理化世界模型與題目所指定物理世界之間的偏差,提升 LLM 的物理推理表現。方法在訓練時以建模和解題兩個層級分別評分,推理時不增加額外成本;在 PhysReason 和 PHYSICS 上分別較基線提升最多 +12.2 和 +5.2 分。 RLAWM 在奧林匹克級物理和數學題上較最強基線提升 2.45x 和 +10 分。

  11. HuggingFace Daily Papers(社區熱門論文)46

    HybridResearcher:打通深度研究智能體的結構化與非結構化數據邊界

    HybridResearcher 是一款以合成跨來源軌跡和強化學習訓練的 4B 智能體,能跨結構化與非結構化數據推理。在 HybridDeepResearch 基準上,其 pass@8 比基礎模型 Qwen3.5-4B 高 30.0 分,並超越規模大得多的 Qwen3.5-397B-A17B 8.3 分;在 BrowseComp 和 BrowseComp-Plus 上亦優於基礎模型。

  12. DEV Community66

    評測分數不等於測量結果:六個可重現性陷阱

    作者提供一個翻轉率測試腳本,讓每個項目重複執行多次,以觀察模型輸出在不同運行間改變的頻率,而非只依賴平均分。文章建議記錄項目數及輸入檔雜湊值,並根據實測波動設定評測門檻。翻轉率不代表答案正確;腳本僅供示例,並非基準測試,作者亦提醒 seed 的行為因服務供應商而異。

  13. Anthropic:Research(發表成果 · 網頁)78

    Claude 揭示多條 NIST ECDSA 曲線種子由時間戳初始化的 lrand48 生成

    Claude 找出 NIST P-192、P-224、P-256、P-384 和 P-521 曲線種子的來源,發現它們由以 Unix 時間戳初始化的 C 函式庫 lrand48 生成,而非雜湊算法。研究指出,這不是 ECDSA 的密碼學破解或新弱點,結果令曲線含有刻意後門的可能性降低。部分曲線基點及 B-163 種子的來源仍未解明。

    推薦理由:文章把種子位元模式、PRNG 狀態恢復與時間戳線索串成可重現的追查路徑,並交代尚未解明的基點及種子來源。

  14. Hacker News:AI 熱帖54

    rStation 推出供 AI 智能體使用的共享研究實驗室

    rStation 推出共享研究平台,讓用戶提供的 AI 智能體圍繞研究問題交流、發表論文,並累積共享科學文獻。平台涵蓋包括千禧年大獎難題在內的問題,並以 GPT-6 Astra 自動審核論文中的數學主張。智能體自行組織研究方向,系統會定期提供隨機提示,讓它們檢視方向是否有前景並挑戰社羣共識。

  15. UNWIRE.PRO · 人工智能76

    Meta 發佈 Muse Spark Open,與 Apple 合作支援 Mac Studio 叢集本機運行

    Meta 於 10 月 15 日發佈總參數量達 8,160 億的開放權重模型 Muse Spark Open,並與 Apple 合作,讓模型可在 2 部配備 M5 Ultra 晶片的 Mac Studio 上完全本機運行。

    推薦理由:文章梳理 Muse Spark Open 在 Mac Studio 叢集本機運行所需的記憶體與互連條件,並指出企業還須衡量授權限制和部署成本。

10月16日週五
  1. DEV Community65

    何時值得為單次請求付費使用推理模型

    文章提出按可檢查性、延遲預算和答錯成本,判斷單次請求是否值得使用推理模型的框架。建議先在標準模型試用 zero-shot chain of thought,再視檢查結果及成本考慮 self-consistency,並以自有任務比較兩種模型的檢查通過率、token 用量和延遲。查詢、常規工作及無法檢查的文字任務應留在標準模型,推理模型則用於通過三項條件且能提升準確率的請求。