跳到正文
11月12日週四
  1. 新浪科技39

    硅基流動創始人袁進輝:推理所需算力沒有上限,晶片企業有很大機會

    硅基流動創始人兼CEO袁進輝表示,推理所需算力遠大於訓練,需求沒有上限,晶片企業尤其新玩家在推理市場有很大機會。訓練一個較好的模型基本需要一百萬億 token,而不少企業每日推理用量已超過一百萬億 token。開源模型在寫作、翻譯、編程等能力足夠的場景,可帶來成本優勢與數據主權。

  2. Hacker News:AI 熱帖25

    Torrent 是分發模型的理想方式

    Hacker News 討論認為,Torrent 適合分發大型 AI 模型,尤其是突然走紅、需要擴展下載能力的模型。有留言指出,Torrent 比透過單一私人伺服器分發更合理,並提議 Hugging Face 採用混合方案;亦有留言認為,模型分發與開放權重模型的控制權有關。

  3. 阿里雲開發者社區 AI32

    JeecgBoot 低代碼與敲敲雲零代碼:開源「AI + 低代碼」雙平台的分工與選型

    JeecgBoot 低代碼與敲敲雲零代碼組成同源雙平台,分別面向專業開發者與業務人員,提供保留源碼的低代碼開發及 AI 零代碼應用搭建。敲敲雲可用自然語言生成應用,並支援私有化部署;文章按搭建者及源碼需求説明選型,也提出兩者混合使用的方式。

  4. Hacker News 熱門(buzzing.cc 中文翻譯)61

    華為發佈用於本地推理的內部量化工具 MACaQ

    華為發佈量化工具 MACaQ,可透過 llama.cpp、vLLM、Diffusers 和 PyTorch 量化並執行文字、圖像、影片及音訊模型。項目稱,MACaQ 可在使用 32.5 GB 裝置記憶體的情況下,於 64 分鐘內量化 122B 參數模型。其困惑度可低於 MR-GPTQ 和 DuQuant++;在 Llama-3-8B 上,也可用少 11× 的量化時間達到兩者的最佳困惑度。

  5. LlamaIndex:產品、工程與評測63

    LlamaIndex 推出 ParseBench-2 文件解析基準

    LlamaIndex 推出 ParseBench-2 文件解析基準,以按錯誤嚴重程度校準的確定性指標,令評分更貼近人工判斷。資料集由 2.1k 擴至 4.3k 個案例,涵蓋文字、表格、格式、圖表、版面及表單六個維度,並納入 330 多種錯誤類型。資料集、評測程式碼及評分準則已公開;在 41 組配置中,LlamaParse Agentic Plus 以 89.8 分排名第一。

  6. 創業邦69

    美國企業採用中國開源模型降本,收益更多流向雲端與算力層

    美國企業正把部分工作負載轉向中國開源模型以降低成本,但調用量領先未等比例轉化為中國模型公司的收入。Lindy稱切換至DeepSeek-V4後推理成本下降約95%,Coinbase則稱AI支出壓縮近一半;門羅報告顯示,89%的美國企業開源模型支出流向中國公司,但開源模型僅佔模型及API支出的4%,中國模型約佔美國企業模型支出的3.6%。

  7. DoNews46

    MiniMax 閆俊傑解讀中美 AI 路徑差異:美國資本驅動封閉,中國靠效率協作突圍

    MiniMax 創辦人兼 CEO 閆俊傑指出,美國依靠資本建立封閉 AI 體系,中國廠商則透過工程能力、算力效率及協作發展突圍。現時以 10% 的成本可達到前沿模型 95% 的性能,但追趕餘下 5% 的頂尖能力難度更高。開源模型可藉助全球開發者拓展應用,MiniMax 亦希望建立全球規模領先的後訓練系統。

  8. 新浪科技48

    88% 受訪開發者支持制定 AI 使用規則:FreeBSD 成立工作組

    FreeBSD 調查顯示,88% 的受訪開發者支持為 AI 參與開源開發制定正式政策或指引,91% 認為即使使用 AI,人類仍須承擔責任。FreeBSD 已成立 AI 工作組,預計第四季度提交最終報告,目前尚未公佈正式政策。工作進展報告亦涵蓋安全合規、虛擬機管理及桌面體驗,多項工作仍在開發或評審階段。

  9. SiliconANGLE75

    AWS 推出開源 AWS Emulator,讓開發者無需連接雲端即可在本機驗證程式碼

    Amazon Web Services 推出免費開源工具 AWS Emulator,可在本機模擬數百項 AWS 雲端服務,讓開發者無需連接雲端驗證程式碼。工具由 AI agents 編寫,並以 AWS 公開 Smithy API models 作規格、以實際 AWS 平台作參照;多組 agents 負責生成測試、找出差異及修補問題,最後由對抗式安全 agents 檢查漏洞。

  10. DEV Community61

    2026 年 11 月 LLM 調用實際成本:六款開放權重模型的每 1M tokens 價格

    Synap by Linkrra 根據 2026-11-11 的公開價格,整理六款開放權重模型每 1M tokens 的費用,並以工作負載及實際分類請求比較每次調用成本。在 10,000 次、每次輸入 2,000 tokens、輸出 500 tokens 的估算中,批次價格約為即時價格的一半;實際分類測試中,gpt-oss-20b 按 token 單價最低,按每次請求成本卻排第四。