跳到正文
11月18日週三
  1. 新浪科技56

    騰訊高管預計 2028 年 AI 投入產出效率改善,受惠於基礎設施複用、硬件降價及算力效率提升

    騰訊高管預計,基礎設施複用、硬件採購成本下降及模型訓練和推理效率提升,將共同改善 AI 業務的投入產出效率,並對 2028 年持較樂觀看法。2026 年、2027 年建設的基礎設施可在之後持續使用,支援新一代模型訓練及 Token 生成;高管亦預計同類設備採購價格到 2028 年明顯下降。

  2. 新浪科技57

    騰訊劉熾平:微信「小微」全面上線後季度成本將低於今年較早時的元寶

    騰訊總裁劉熾平表示,微信「小微」目前日活用戶達 3000 萬,全面上線後的季度成本將低於今年較早時的元寶。微信官方稱,「小微」採用針對成本效率及易用性優化的 WeLM,推理成本極低且持續下降;已部署的 WeLM-80B 有 800 億總參數、30 億激活參數。官方預計未來部分推理任務將在用戶設備端運行,模型支援聊天與搜尋、使用微信原生功能及調用小程序服務。

  3. 新浪科技66

    AMD完成收購Taalas,29億美元交易中14億美元須滿足條件後支付

    AMD已完成收購加拿大GPU初創公司Taalas,交易價值29億美元,其中14億美元須達成約定要求後才支付。Taalas的HC1將Meta的Llama 3.1 8B模型固化在晶片中,在輸入及輸出各1000 Token的測試條件下,單用戶生成速度約為每秒1.7萬Token/s。由於更換模型須重新生產晶片,報道指其較適合長期推理服務;NVIDIA GPU則可載入不同模型,並用於訓練及推理。

  4. DEV Community54

    Camaan 團隊分享以統一閘道和路由管理模型開支

    Camaan 團隊主張,讓所有模型請求經統一閘道,可集中管理模型權限、預算和記錄,並按請求難度分流至4個層級。以80條未見提示詞測試,路由器選對層級的比例為92.5%,單獨分類器為76.2%;按示例價格計算,路由器成本與理想路由相差1.4%,全部請求交由最強層級處理的成本則約為理想路由的3倍。單獨使用分類器雖比理想路由便宜約1/3,卻對超過1/5的請求提供不足的模型服務。

  5. 雷鋒網69

    黃仁勳去留未明,GPU 買家不敢下單

    黃仁勳去留消息反覆之際,受訪算力服務商對高端 GPU 採購保持謹慎,內地貨源收窄,海外取得算力亦不輕鬆。文中稱,B300 出廠價約 400 萬元,海外實際採購成本達 700 萬至 800 萬元,黃仁勳風波前內地單台現貨價已升至約 2200 萬元;有團隊預訂數十台,最終只收到兩台。

  6. 阿里雲開發者社區 AI64

    阿里雲 Qwen4‑Max 預覽版深度解析:定位、能力與 Qwen3‑Max 的差異

    Qwen4‑Max 預覽版定位為面向複雜推理與編程的旗艦模型,較 Qwen3‑Max 原生支援圖像、影片理解,並擴展智能體的專業軟件操作及跨工具長流程能力。預覽期為11月11日10:00至11月25日24:00(UTC+8),期滿後 qwen4‑max‑preview 標識下線,正式版將使用新標識。參數量、上下文窗口、官方基準跑分及正式版定價尚未公佈,預覽版不適合承載不可中斷的生產業務。

  7. DoNews75

    騰訊控股2026年第三季度收入同比增長8%至人民幣2,073億元

    騰訊控股公佈2026年第三季度業績,總收入為人民幣2,073億元,同比增長8%,毛利同比增長7%至人民幣1,159億元。按非國際財務報告準則計算,經營盈利同比下降7%至人民幣591億元;資本開支付款同比增加225%至人民幣651億元。騰訊表示,算力採購預付款用於支持Hy模型升級、WorkBuddy推理及各項產品與服務的AI能力建設。

  8. 新浪科技78

    深度實測 GPT-6.2:實力確實強,也確實難用

    文章實測 GPT-6.2 Astra,發現它能快速生成可互動的 3D 遊戲與場景,但寫作表現、溝通方式及長程 Agent 任務仍有明顯問題。文中亦引述官方數據,稱它在專業 Agent 任務上的表現超越 Claude Fable 5.2,完成同等任務的綜合成本只有後者的 5%。

    推薦理由:文章將官方成本與能力主張,和 3D、寫作等實測並置,呈現 GPT-6.2 Astra 的強項與日常協作落差。

  9. DEV Community65

    預設模型不應過大:先用小模型,只把難題升級至大模型

    生產環境不應把每項請求都交給最大模型,應先用小模型,再由評分器或路由器把需要的請求升級至大模型。FrugalGPT 在 HEADLINES 上以 GPT-4 五分之一的成本取得高 1.5% 的準確率;RouteLLM 在 MT Bench 上只把 14% 請求送往 GPT-4,達到 GPT-4 95% 的表現。成效取決於能否低成本判斷答案質素,流量分佈改變亦可能削弱路由表現。

  10. IT之家49

    理想汽車 CTO 謝炎在台積電 OIP 論壇解讀馬赫 M100 從技術到應用全流程

    理想汽車 CTO 謝炎在台積電 OIP 生態系統論壇發表演講,解讀自研馬赫 M100 從架構設計到量產裝車的全流程。馬赫 M100 採用 5 納米車規級工藝,單顆算力達 1280 TOPS,是全球首款量產的動態數據流架構 AI 芯片。該芯片已量產交付,可支援大語言模型、智能體應用及智能輔助駕駛。

  11. DoNews40

    Sqwish完成300萬美元種子輪融資,專注輕量級AI決策模型

    AI決策模型研發商Sqwish於2026年11月完成300萬美元種子輪融資,並推出輕量級模型家族kettei,可直接輸出決策結果與置信度評分,支援文字及圖像輸入。旗艦模型kettei fat在JevBench、ImageJevBench等評測中位居前列,配合大模型使用可降低約三分之二決策成本。兩款小模型已在Hugging Face開源,OneHot平台支援企業以自有數據定製訓練。

  12. HuggingFace Daily Papers(社區熱門論文)38

    TPHC:以張量並行分組更新改進 Hyper-Connections

    TPHC 結合張量並行分片與 Hyper-Connections 殘差流,降低語言模型損失並提升零樣本推理表現。8B 模型採四條流時,訓練時間較 mHC 多 9%;流數由四增至十六,訓練時間僅多 19%。1.1B 模型以 100B tokens 訓練後,驗證損失較同流數 mHC 低 0.7-1.0%,六項常識推理基準的平均零樣本準確率高 0.3-0.7 個百分點。

  13. HuggingFace Daily Papers(社區熱門論文)47

    M3OPD-Reasoner:以多教師 on-policy 蒸餾進行多模態推理後訓練的開放方案

    M3OPD-Reasoner提出一套完全開放的多模態推理後訓練方案,涵蓋圖像 STEM、圖像感知及影片三個領域。評測 21 個基準後,研究發現從 Qwen3.5-9B 直接以 GSPO 訓練各領域教師,再用 MOPD 蒸餾的方案表現最佳;接續 MixRL 仍可提升學生模型,形成 M3OPD-Reasoner-9B。

  14. DEV Community61

    切換至 GPT-6.2 Astra 而不大幅增加 API 費用

    GPT-6.2 Astra 的基礎費率較 GPT-6 Astra 下調 20%,但隱藏推理 token 按輸出費率計費,可能抵銷節省並推高總帳單。文章計算,重用上下文達 40% 才到快取損益平衡點;以每次 100,000 個輸入 token、2,000 個輸出 token、共 10,000 次請求為例,快取 80% 上下文可把費用由 $8,800 降至 $2,720。

  15. gihyo.jp83

    OpenAI 發佈面向專業工作的 GPT-6.2 Astra 及面向日常工作的 GPT-6.2 Sol

    OpenAI 於 2026年11月17日發佈 GPT-6.2 Astra 和 GPT-6.2 Sol。兩款推理模型已在 ChatGPT Work、Codex 和 API 提供,Astra 面向複雜專業工作,Sol 著重日常寫作、編碼的速度與成本效益。

    推薦理由:文章並列兩款模型在專業與日常任務上的定位、基準結果及 API 價格,呈現能力表現與使用成本的比較脈絡。

  16. HuggingFace Daily Papers(社區熱門論文)61

    FastFrames 提出互動級延遲的自回歸影片擴散模型

    FastFrames 論文提出一系列快速自回歸影片擴散模型,目標是在不犧牲生成品質下達到互動級延遲。1.3B 版本在單張 B200 GPU 上每影格耗時 36 ms、達 28 RPS,生成品質媲美慢近 8x 的 SOTA 模型;14B 版本在 8x B200 GPU 節點上每影格耗時 45 ms、達 22 RPS,並呈現顯著更佳的視覺品質和真實感。

  17. DEV Community67

    為何生產環境中的編碼 Agent 會在 60 秒閘道逾時下失效:構建確定性測試框架的經驗

    作者以 4 個 2026 旗艦推理模型完成 16 項確定性生產任務測試,指出 Agent 上線後會受推理延遲、工具呼叫漏失及 60 秒反向代理逾時影響。PostgreSQL TOCTOU 併發與冪等性程式碼審查耗時 46.1s 至 572.8s;文章提出以非同步佇列處理長任務,並按工作負載路由模型。

  18. 阿里雲開發者社區 AI64

    通義千問 Qwen4-Max 全面解析:功能、價格、API 呼叫及免費 100萬 Tokens 試用

    阿里雲開發者社區的文章解析通義千問 Qwen4-Max,整理其多模態能力、功能支援、收費及 API 接入範例。文中列出輸入 ¥10 /M tokens、輸出 ¥30 /M tokens,並稱阿里雲百煉提供免費 100萬 Tokens 試用。文章亦提供 Python、Node.js 及 cURL 的呼叫範例,並稱模型兼容 OpenAI 與 Anthropic API。

  19. 新浪科技44

    香港大學團隊提出 A-GRAE,破解 GRPO 探索與難度適應瓶頸

    香港大學團隊提出 A-GRAE,以「隱式優勢對稱性」統一解釋 GRPO 在探索能力和難度適應上的瓶頸。A-GRAE 無需增加額外計算成本,並在涵蓋文本數學推理和多模態推理的 7 個基準上提升表現;在 AIME2025 上,DAPO+A-GRAE 的平均表現為 53.3%,高於 DAPO 的 52.2%。論文獲 NeurIPS 2026 錄用,程式碼已開源。

  20. DEV Community75

    Nvidia Q4 毛利率指引降至 71%–72%,拆解 Vera Rubin 爬坡成本

    Nvidia Q4 毛利率指引為 71%–72%,較本季 74.9% 低約 3 個百分點,公司將原因歸於 Vera Rubin 架構初期擴產成本。文章把成本拆分為良率爬坡、HBM4、液冷與電力改造,以及部署規模尚未擴大;Nvidia 所稱每百萬 tokens 推理成本降至 Blackwell GB200 NVL72 的十分之一,尚無獨立驗證。

  21. IT Square · AI77

    Hugging Face 語言模型改由 OpenRouter 路由,經 Hugging Face 入口自備供應商 API key 不再適用

    Hugging Face 把 160 個語言模型的推理路由改由 OpenRouter 接手,請求失敗時會在同一呼叫內改試下一間供應商。OpenRouter 2026 年 10 月實測中,容量錯誤減少 46%、首字延遲改善 16.9%、吞吐量提升 16.3%,每次請求成本則高 6.0%。

    推薦理由:文章並列路由實測的速度、可靠性與成本變化,並界定自備供應商 API key 不再適用的範圍,方便團隊評估帳單與接入方式。