跳到正文
11月14日週六
  1. gihyo.jp61

    llama.cpp 發佈 1.0.0,ggml 同步升至 1.0.0 並明確 API、ABI 不相容變更規則

    llama.cpp 開發團隊於 2026年11月13日發佈首個主版本 1.0.0,計算函式庫 ggml 亦同步升至 1.0.0。兩個函式庫日後以主版本號標示公開 API、ABI 不相容變更;1.0.0 亦從 llama.h 移除 35 個已棄用函數。llama-server 新增語音合成用的 /v1/audio/speech 端點,Web UI 加入具名聊天羣組及 Markdown 編輯器。

  2. 阿里雲開發者社區 AI36

    基於阿里雲百煉與函數計算的 AI 智能輔助決策支援系統實戰

    方案以阿里雲百煉作推理中樞、函數計算作彈性執行層,構建以自然語言互動和結構化數據輔助決策的系統。系統調用通義千問 qwen-plus,按 JSON Schema 輸出建議,並可透過函數計算按需執行或定時巡檢。AI 輸出只作參考,關鍵資金調撥或策略調整須保留人工審批。

  3. DEV Community55

    Claude 四種提示詞模式值得測試,作者不作 10 倍效果宣稱

    Devesh Korde 整理四種可在 Claude 上測試的提示詞模式,並明言沒有 10 倍提升的依據。其中三種有 Anthropic 公佈的測試結果:範圍控制提示在 max effort 編碼測試中令工作階段成本下降約三分之一且品質不變;要求實際檢查則令 low effort 下略過或流於表面的檢查變得罕見,但每項任務成本略升。

  4. 虎嗅83

    NVIDIA 除黃仁勳離任外,還面對多重挑戰

    黃仁勳於11月12日辭去 NVIDIA 總裁、首席執行官及董事職務,結束33年掌舵生涯;文章指出,NVIDIA 還面對客戶自研晶片、軟件移植成本下降及融資策略延續等挑戰。其互連網絡與 AI 計算平台構成競爭壁壘,但雲端服務商和模型公司正加快自研晶片,AI 編程亦可能降低跨平台移植成本。文章亦分析黃仁勳以採購承諾和融資平台支持下游客戶的做法,並指出其能否延續取決於實際 AI 需求及繼任者的投資取向。

    推薦理由:文章把 NVIDIA 的競爭壁壘拆分為互連與網絡生態、客戶自研晶片及融資支持,呈現黃仁勳離任後多重挑戰如何交織。

  5. 創業邦85

    黃仁勳離任後,英偉達面對三大難題

    黃仁勳離開英偉達後,公司面臨管理接班、CUDA生態延續及2790億美元供應與產能承諾兑現等考驗。這筆承諾主要是為未來需求安排供應和產能,並非已收到的客戶訂單或已支付的現金,若需求延遲可能造成庫存積壓和供需錯配。文章亦指出,英偉達正尋找推理、機械人、自動駕駛及工業 AI 等增長方向,但這些市場能否達到數據中心業務規模仍需要時間驗證。

    推薦理由:文章梳理黃仁勳離任後英偉達在管理接班、CUDA生態延續與巨額供應承諾兑現上的壓力,並連結這些問題與公司如何維持增長的關係。

  6. IT之家50

    llama.cpp 與 ggml 庫版本升至 1.0.0,並訂明 API/ABI 兼容規則

    llama.cpp 與底層機器學習引擎 ggml 的庫版本均升至 1.0.0,並將以主版本號標示 API 或 ABI 不兼容變更。llama.cpp 已支援超過 150 種模型架構變體及主流推測解碼方法;ggml 後端可編譯為動態庫,並按需在執行時載入。版本規則以 MAJOR 標示破壞性變更、以 MINOR 標示向後兼容的功能等更新,並以 PATCH 標示不改變 API 的錯誤修復。

  7. 新浪科技63

    OpenAI 解散獨立機械人團隊,研究人員調往其他部門

    OpenAI 解散獨立機械人研究團隊,將研究人員併入核心研究團隊,並把應用機械人及硬件團隊劃入 Applied 部門;公司稱此舉不代表退出機械人領域。英偉達一項模擬機械人操作基準測試中,由 GPT-6 Astra 驅動的智能體成功率為 74.8%,高於榜單上最佳專用機械人模型公開的 51.0%;測試並非在真實機械人上進行。

  8. DEV Community58

    應用程式處理 LLM 呼叫時應作哪些假設

    文章説明,應用程式呼叫 LLM 時應把回覆視為可能出錯的抽樣延續,並驗證所有需要解析的欄位。知識截止日之後的事實及私人資料,應視為未知,直至程式把當前來源放入提示詞;模型 ID 變更時,則應重新測試格式、拒答及語氣。對要由程式解析的輸出,作者建議將 temperature 設近 0,並留意 token 按讀寫量計費,以及標準 attention 的計算和記憶體開支隨序列長度平方增長。

  9. Hacker News 熱門(buzzing.cc 中文翻譯)52

    作者經 600 次實驗,提出 LeWM 的四種無需額外訓練規劃方法

    作者在 LeWM 上完成 600 次實驗,找出四種無需重新訓練的規劃方法;其中兩種結合後,長程任務成功率由 22% 提升至 85%。這些方法不改變 LeWM 的模型權重;在較難的 Push-T 測試中,最佳規劃器將方塊維持在目標上的成功率為 56%,主要失敗於目標與示範資料方向相反的情況。

  10. HuggingFace Daily Papers(社區熱門論文)44

    S1CogBench:System One 決策模型在認知實驗中能做甚麼、不能做甚麼

    S1CogBench 評估 System One 決策模型在 24 項認知任務上的表現,揭示其能力與限制。評測涵蓋 27 種評估模式、七個開源模型及 API 模型 Jev。結果顯示,模型在部分學習任務表現良好,但可能未能蒐集資訊或因應回饋調整;快速決策亦未必有充分證據支持。

  11. HuggingFace Daily Papers(社區熱門論文)44

    LoopFill:面向 Looped Transformers 的流水線式多 token 推測解碼

    LoopFill 是一種免訓練的推測解碼演算法,將多 token 後綴草稿與淺層循環預測合併至同一草稿樹,並透過完整深度驗證保留自回歸輸出分佈。七項基準測試中,LoopFill 在 Ouro-2.6B 和 Huginn-3.5B 上較貪婪自回歸解碼分別加速 5.85 倍和 5.13 倍,較最強基線 LoopAhead 分別快 40% 和 25%。

  12. HuggingFace Daily Papers(社區熱門論文)45

    思考的價值:混合決策模型如何學習何時進行推理

    混合決策模型(HDM)透過自我路由區塊,在單次前向傳遞的隱式思考與自回歸推理之間作出選擇,並以 CDPO 訓練路由區塊。在 JevBench 上,HDM-4B 得分為 0.857,對比 Jev 的 0.851(+0.7%);中位延遲為 0.179\,s,對比 0.652(-72.5%)。在 MiniWoB 上,HDM-27B 將 token 成本降低 80.1%。

  13. Ai2 / Allen Institute for AI59

    Ai2 發佈 XYBench 基準,測試模型能否識別用戶問題中的錯誤假設

    Ai2 發佈 XYBench,這個包含 8,115 個真實問題的基準,用來評估 AI 助手能否識別用戶問題中的錯誤假設,並轉向處理其真正目標。在 Stack Overflow 題目中,五款受測模型只有 35–41% 的回答主要聚焦真正目標,人類參考答案則為 55%。另在二選一測試中,六款模型有 71–84% 選出目標導向答案,顯示模型選出好答案與自行寫出好答案的表現有落差。

11月13日週五
  1. 新浪科技59

    Intel Crescent Island 訂單超過 20 億美元,最高可配 480GB 顯存

    Intel CEO 陳立武在 SGLang Summit 受訪時透露,Crescent Island 訂單金額已超過 20 億美元。這款面向 AI 推理的 GPU D 系列採用 LPDDR5X,公版顯存為 160GB,合作夥伴可定製至最高 480GB;八卡方案最高支援 1 萬億參數的大語言模型。D 系列不含顯示及 3D 圖形硬件,不能用於 PC 遊戲,只能用作本地 AI 部署。

  2. TechCrunch · AI71

    以色列創投界認為 Nvidia 領導層動盪為競爭者帶來機會

    以色列創投人士認為,Nvidia 的領導層動盪可能為 AI 晶片及推理軟件競爭者創造機會,但若這份不確定性同時令 AI 支出放慢,市場機會也可能縮小。Nvidia 於 2019 年以 $6.9 billion 收購以色列晶片公司 Mellanox,並在當地聘用 6,000 人;其繼任者會否維持對以色列的投入仍受關注。

  3. DEV Community54

    hikyaku 推出 AI 訊息轉送工具,支援重試、備援及死信佇列

    Xavier Portilla Edo 介紹 hikyaku,一款以 Go 編寫、用單一 YAML 設定來源與目的地的訊息轉送工具,支援 AI 路由、重試、備援和死信佇列。作者以 6 個標註案例把信心閾值由 0.90 調至 0.95,測試準確率由 83.3% 升至 100.0%。工具亦可在 AI 路由跳過或失效時改用規則路由,並能建立按請求難度選擇模型的 OpenAI 相容 LLM proxy。

  4. 阿里雲開發者社區 AI53

    阿里雲 2026 雙十一 Qwen3.8-Flash 優惠與活動入口整理

    阿里雲 2026 雙十一活動為 Qwen3.8-Flash 提供按量節省計劃、Token Plan 訂閲、夜間折扣及上下文快取折扣等優惠,並整理活動入口與適用規則。優惠期至 11 月 30 日,按量節省計劃最低 4.5 折,Token Plan 新客首購 5 折。Token Plan 夜間 4 折只在北京時間每日 22:00 至翌日 08:00 生效,按量付費不適用,兩套計費通道的額度亦不互通。

  5. 雷鋒網45

    中山大學梁曉丹團隊以 GeoThinker 系列研究改善空間推理的幾何資訊利用與計算開銷

    中山大學梁曉丹團隊提出 GeoThinker 系列兩項研究,先讓視覺語言模型按需利用外部幾何資訊,再以 GeoThinker-F 探索由模型內部生成空間線索。相同訓練數據下,GeoThinker-F 的六項空間智能基準平均得分為 62.21,與 GeoThinker 的 62.23 幾乎相同。GeoThinker-F 推理延遲由 1.45 秒降至 0.40 秒,速度提升約 3.6 倍。