跳到正文
11月20日週五
  1. 虎嗅54

    如果 AI 解開世界難題,人類數學家還剩下甚麼?

    AI 在數學解題、證明及數學發現方面的能力迅速提升,正衝擊傳統研究模式與數學家的職業價值。鄧煜批評模型公司訓練時利用人類知識,卻以防止蒸餾為由不公開思維鏈,並引出研究透明度、成果歸屬及學術評價的爭議。受訪數學家認為,基礎數學教育仍有助培養嚴謹論證與獨立判斷,數學家的價值或更多轉向解釋、理解與表達數學結果。

  2. HuggingFace Daily Papers(社區熱門論文)43

    探究視覺語言模型的「意識」:選擇性存取與全域工作空間

    研究團隊提出多模態概念透鏡 MC-Lens,分析視覺語言模型如何讀取概念、選擇性存取資訊,並將其用於後續計算與推理。實驗顯示,可靠的選擇性存取比概念可讀性較晚形成;不同模型家族和規模的模型則呈現共同的概念可讀性、依查詢而變的選擇性,以及跨任務介入效應。

  3. 阿里雲開發者社區 AI50

    阿里雲老用戶選購輕量、ECS、GPU 與百煉服務指南:優惠資格、計費及使用規則

    這份指南梳理阿里雲老用戶選購輕量應用伺服器、ECS、GPU 雲伺服器及百煉大模型服務平台時的優惠資格、計費規則和下單限制。內容建議先確認帳號及產品的新客身份,再核對計費模式、庫存、續費口徑與結算價格,並按各服務特性選擇規格及預算。百煉部分分為免費額度、Token Plan 訂閲及按量計費三層;Standard 及以上方案附送的 Harness 包含 12 項不消耗 Credits 的能力。

  4. DEV Community67

    LLM 推理優化面試題與解答

    文章整理 14 道 LLM 推理優化面試題與解答,涵蓋效能衡量、延遲與吞吐量取捨,以及模型伺服器的調校和擴展。內容介紹如何以 TTFT、TPOT、ITL 和 goodput 評估服務,並用 vLLM 基準測試找出符合延遲百分位目標的持續負載。

  5. IT之家64

    微軟推出 USB4 遠端直接記憶體存取(RDMA)開發者預覽,支援多台 Windows 11 電腦協同運行 AI 模型

    微軟推出基於 USB4 的遠端直接記憶體存取(RDMA)開發者預覽體驗,讓多台 Windows 11 電腦協同運行 AI 模型。符合要求的電腦以 USB4 連接後,可透過相容的推理框架共同調用各自的記憶體和 GPU 算力,無需另購專用 RDMA 網卡或配置交換器;小批量傳輸的往返延遲約為 28 至 50 微秒,約為同一 USB4 連線上傳統乙太網 UDP 方式的四分之一。

  6. Analytics India Magazine40

    Soket AI 獲 400 萬美元投資並推出 EKA-1 模型

    Soket AI 獲 Bajaj Finserv 旗下 Finserv Intelligence 約 $2 million 投資,Pennant Technologies 同輪再投資 $2 million,並推出 EKA-1。這款 26-billion-parameter 基礎模型隸屬 Project EKA,聚焦數學、程式碼及推理,目標支援超過 100 種語言。

  7. MiniMax:Blog76

    MiniMax Cyber 將多項理論密碼攻擊轉化為實際攻擊

    MiniMax 研究團隊使用 MiniMax Cyber 對現代密碼方案進行自動密碼分析,找出多項結構缺陷並把理論攻擊轉化為實際攻擊。研究涵蓋 NIST 候選方案、同行評審設計及公開密碼挑戰;在公開挑戰中,Cyber 解出數十個未解實例,較既有最佳求解器快數百至數萬倍。研究聚焦學術設計、過往競賽候選方案及公開挑戰參數,不影響已部署的密碼標準;相關發現已預先告知方案作者。

    推薦理由:文章以可執行攻擊及公開挑戰求解結果呈現 MiniMax Cyber 在多類密碼方案中的密碼分析成果,並提供與既有紀錄的用時及速度比較。

  8. IT之家62

    消息指英偉達洽購 Inception,估值逾 5 億美元

    報道指英偉達正與 AI 初創公司 Inception 深入洽談收購,交易估值至少逾 5 億美元,並可能附有與業績掛鈎的額外獎勵。Inception 於 2025 年 2 月發布的 Mercury 採用擴散式架構並行生成 token;公司稱其吞吐量較傳統模型高 5 至 7 倍,每項任務成本最高可降低 70%。

  9. 新浪科技61

    消息指英偉達擬以逾 5 億美元收購 Inception

    據報道,英偉達正與 AI 初創公司 Inception 深入洽談收購,交易估值至少 5 億美元,並可能附帶與業績掛鈎的額外獎勵。Inception 稱其 Mercury 採用並行生成,首字延遲可低於 300 毫秒、吞吐量較傳統模型高 5 至 7 倍,每項任務成本最高可降低 70%。由於談判尚未敲定,交易價格、交割時間及 Mercury 等產品未來是否獨立營運仍存在不確定性。

  10. 21ic電子網54

    加 NPU 還是加快取:六家 MCU 廠商的三種配置取捨

    文章比較六家 MCU 廠商在 NPU、向量單元與片上資源配置上的取捨,帶 NPU 型號的算力由 2.56 至 600 GOPS 不等。方案包括採用 Arm IP、自研加速器,或不配置 NPU 而側重定時器和模擬周邊;選型需按工作負載及工具鏈考量。模型若無法放進片內 SRAM,頻繁讀取 Flash 會削弱 NPU 的能效優勢。

  11. DEV Community63

    SGLang 與 vLLM 有何內部差異,以及如何公平比較

    文章比較 SGLang 與 vLLM 的共通功能及前綴快取差異,並列出公平比較兩者的基準測試方法。vLLM 以每 16 個 token 為一頁的標籤鏈重用前綴,SGLang 則透過 radix tree 尋找最長匹配分支。文中實測數據均來自 vLLM 0.33 在租用 RTX 4090 上的測試,作者尚未測試 SGLang,沒有對其速度作出判斷。

  12. 阿里雲開發者社區 AI71

    Kimi-K3 全面解讀:模型定位、核心特徵、能力表現、適用場景及計費

    Kimi-K3 定位為面向長程編程、知識工作及推理的旗艦模型,最大輸入和輸出均為 1,048,576 Token,並已上架阿里雲百煉。它採用 KDA 混合線性注意力與注意力殘差,支援原生視覺理解,但只有思考模式。華北2(北京)/全球的輸入、輸出及快取命中價格分別為 20、100、2 元/百萬 Token,且沒有免費額度。

  13. DEV Community42

    摘要優先方案不敵截短文本,token 用量達 2.6 倍

    測試顯示,Qwen2.5-1.5B-Instruct 採用摘要優先方式,每 24 項任務答對 16 項,略低於截短文本的 17 項,並耗用其 2.6 倍 tokens;完整文本則答對 9 項。摘要沒有消除模型對 issue 412 的偏執,截短文本以較低成本取得相近準確度,因此作者建議維持截短文本為預設做法。

  14. 阿里雲開發者社區 AI60

    Qwen3.8-2.4T-A95B 全解析:模型定位、能力、適用場景與部署成本

    文章全面解析 Qwen3.8-2.4T-A95B 開源權重的模型定位、架構、能力表現、適用場景、部署成本與許可限制。該版本為純文字、全思考模式,原生上下文為 262,144 Token;BF16 權重約 4.89 TB,定位為多機多卡部署的可改造底座。文章亦比較其與 API 版在視覺輸入、非思考模式及內置工具上的差異,並説明 Qwen3.8-Max License 的商用門檻。

  15. 新浪科技84

    英偉達第三季度財報解讀:營收、淨利潤創新高,增長勢頭延續

    英偉達 2027 財年第三季度營收達 1158 億美元、淨利潤達 653 億美元,淨利潤率為 56.4%,營收和淨利潤均按年增長逾一倍並創新高。超大規模數據中心部門營收為 601.4 億美元,AI 雲-工業-企業數據中心部門為 474.7 億美元;雲行業待交付訂單總額達 2.5 萬億美元。

    推薦理由:文章拆分英偉達數據中心業務的客戶與收入來源,並對照季度業績及上調後的年度指引,呈現增長組成與供應限制。

  16. Unite.AI20

    探索 ARC-AGI:衡量 AI 真正適應能力的測試

    ARC-AGI 是 François Chollet 於 2019 年開發的基準測試,用來評估 AI 在未經特定訓練下,能否適應陌生情境並進行抽象推理。測試以網格謎題考驗 AI 推斷規則,並將所學應用於新問題的能力。OpenAI 的 o3 在 ARC-AGI 取得 85% 分數,高於此前最佳的 55.5%,達到人類水平表現。

  17. DEV Community36

    超越凍結權重:測試時訓練(TTT)如何讓推理變成即時學習

    測試時訓練(TTT)透過在推理期間更新模型的快速權重,讓模型從當前讀取的上下文中即時學習,而非只把資訊壓縮成固定狀態或存入 KV cache。TTT 層以自監督重建任務產生梯度訊號,Titans 則按驚訝度決定記憶更新優先次序。Nested Learning 將凍結的慢速外層權重與可快速適應局部上下文的快速內層權重分開。

  18. 阿里雲開發者社區 AI53

    阿里雲千問大模型省錢攻略:整理 Qwen 系列優惠、免費額度與夜間折扣

    文章整理阿里雲千問大模型降低使用成本的四步做法:先領優惠券、用足免費額度、選用 Token Plan,再把高負載任務安排在夜間。文中列出新用戶可領超 7,000 萬 Tokens、企業認證用戶累計可領 1 億以上 Tokens,Token Plan 個人版由 39 元/月起,部分模型夜間折扣低至 2 折。

  19. AWS Machine Learning Blog63

    Amazon SageMaker Inference 回顧 2026 年 14 項更新(第二部分)

    Amazon SageMaker Inference 第二部分回顧 14 項 2026 年更新,涵蓋託管端點與 HyperPod Inference 的模型配置、GPU 利用率、多節點服務、路由及部署後監察。

    推薦理由:文章按部署後的配置、GPU 利用率、多節點服務及跨區路由等問題梳理 14 項更新,並以假設的支援團隊案例説明各項功能所對應的運作情境。