跳到正文
Latent Space· swyx .ai·· 6 天前精選AI 評分96

NVIDIA 宣佈黃仁勳卸任行政總裁、總裁及董事會成員,Colette Kress 出任臨時行政總裁

[AINews] Jensen Huang resigns after 33 years leading NVIDIA

AI 導讀

黃仁勳在領導 NVIDIA 33 年後,卸任行政總裁、總裁及董事會成員;董事會於 11 月 11 日接受辭任,並於 11 月 12 日公佈。財務總監 Colette Kress 留任並兼任臨時行政總裁,董事會已展開繼任人選搜尋。材料指出,辭任與此前有關董事會準備更換黃仁勳的報道之間是否存在因果關係仍有爭議。

推薦理由

材料交代辭任公告、臨時接任安排及董事會繼任搜尋,並將已確認的職務變動與辭任原因的推測清楚區分。

正文 · 繁體中文

恭喜 Gemini 4 Hydrogen 推出,而 Anthropic 的 IPO 似乎進展順利;但今天的頭條始終只會圍繞一件事:AI 界最震撼的領導層變動(繼 Google DeepMind 的 Demis/Jeff/等人 之後)。

昨天我們報道了 有消息指 NVIDIA 董事會正準備撤換 Jensen Huang,此前《紐約時報》報道他 與一名被控為中國間諜的人有婚外情。隨着 第二宗婚外情 的消息傳出,NVIDIA 今天 宣佈他辭任(兩者是否相關或有因果關係,仍有爭議),相信是董事會迫使他辭任:

在 X 查看貼文 ↗

目前亦有人討論中國模型有多大程度能被證明是在不應獲準使用的 Blackwell GPU 上訓練……不過,規模仍有爭議。

任職 33 年後,Jensen Huang 已卸下 CEO、總裁及董事會成員職務。自 2013 年起擔任 NVIDIA 財務總監的 Colette Kress 將繼續出任該職,同時擔任臨時 CEO……下星期的業績電話會議相信將會是 $NVDA 歷來出席人數最多的一次。

AI News:11/11/2026-11/12/2026 新聞。我們查閱了 12 個 subreddit、544 則 Twitter 推文,沒有再查其他 Discord。AINews 網站可供搜尋所有過往期數。提醒一下,AINews 現已成為 Latent Space 的一個專欄。你可選擇訂閱或取消訂閱不同頻率的電郵!


AI Twitter 摘要

Gemini 4 Hydrogen:Google 的高速 Gemini 4 型號廣泛推出

  • 推出:Google DeepMind 發佈 Gemini 4 Hydrogen,這款型號以速度為先,與 Carbon 和 Argon 並列。Google 表示,它完成任務的速度比 Gemini 3.8 Flash 快 2.5 倍,在 Artificial Analysis Intelligence Index 的表現亦略勝 Argon:預設思考模式得分為 51 比 50,而全新 xhigh 等級則為 54(DeepMind、Koray Kavukcuoglu)。

    • 規格及定價:此型號提供四種思考等級(low、medium、high 和 xhigh),上下文視窗為 1M。每百萬個輸入/輸出 token 收費 $1.50/$7.50,快取輸入可享 95% 折扣(Phil Schmid、Artificial Analysis)。

    • 官方聲稱:Google 表示,Gemini 4 Hydrogen 在 Terminal-Bench 4.0 得分為 57%,在 Terminal-Bench 4.1 的表現則比 Gemini 3.8 Flash 高逾 3 倍。Google 亦聲稱,它產生虛構內容的次數少逾 5 倍,在 Vals Tax Agent Bench 排名第一,並在 AutomationBench-AA 和 Agents' Last Exam 取得領先成績(Google)。

    • 供應情況:Hydrogen 適用於所有 Gemini API 方案,包括 AI Studio 的免費方案。它是 Search AI Mode 的預設型號,免費版 Gemini app 用戶則會透過自動選擇功能使用它。付費 Pro 和 Ultra 訂戶可在 Antigravity 使用它(Sundar Pichai、GeminiApp、Search)。

  • Orchestrator 多模型模式:在 Antigravity 中,Carbon 負責規劃,Hydrogen 則負責編寫及測試程式碼。Google 表示,此模式在 Terminal-Bench 4.0 的成功率接近 Carbon,同時使用的配額少 24%,完成速度快 19%。此功能正逐步開放予 Ultra 訂戶(Google、Mohan)。

  • Artificial Analysis 測量結果:獨立測試結果呈現參差表現。

    • 智能與成本:在 xhigh 下,Hydrogen 得分 54,落後 Claude Sonnet 5.5 (max) 和 GPT-6.1 Sol (max) 一分。其成本約為 Sonnet 的 32%,但約為 Sol 的 2.5 倍。每項任務的成本在 xhigh 下為 $3.16,在 high 下為 $1.87。輸出速度約為 200 tok/s(AA)。

    • 優勢:Hydrogen 在 AA-Omniscience 的幻覺率為 8%,Sonnet 為 43%,Sol 則為 52%。它在 GDP.pdf 視覺推理評測中亦並列第 1。

    • 弱點:在 high 和 xhigh 下,它於 Terminal-Bench 4.0 的得分均為 54%,低於 Sonnet 的 64% 和 Sol 的 56%。

  • 第三方排行榜:

    • Agent Arena:Hydrogen 首次登場便排名第 5,在 6.5k 次工作階段中帶來 +14.8% 的淨提升。它是前 10 名中速度最快的模型,每項任務的中位時間為 5.3 分鐘,每項任務的中位成本為 $1.6(Arena)。

    • Code Arena WebDev:它以 1703 分排名第 10(Arena)。

    • Vals Index:它以 68.5% 排名第 6,落後 Carbon 2 分,價格則為 Carbon 的 38%(Vals)。

    • 程式編寫 Agent:CursorBench 從 3.8 Flash 的 39.6% 升至 54.3%(Cursor)。Cognition 的 FrontierCode 2.0 得分為 38.2%,略低於 Sol(Cognition)。SWE-sweep 得分為 13.5%,Astra 則為 9.5%(KLieret)。

  • 用戶提出的注意事項:

    • 推理失控:一名測試者發現,xhigh 花費了 131K 個思考 token 和約 $1.08,卻未能回答一道有關球衣號碼圖片的問題。同一名測試者亦表示,在一項文字基準測試中,有 1.8% 的情況會耗盡預算(skalskip92)。

    • 弱項:Hydrogen 在 MazeBench 的得分為 1%(patience_cave)。

    • 定價結構:Simon Willison 表示,Hydrogen 的 token 價格只比 Carbon/Argon 便宜 25%;不過,據報這些模型會在 Dec 1 價格翻倍(simonw)。

    • 速度:Theo 根據自己的計時結果,質疑「專為速度打造」這種説法(theo)。

開放權重發布:Inkling 2 Small 領先

  • Inkling 2 Small:Thinking Machines 以 Apache 2.0 授權發布權重(thinkymachines、Mira Murati)。

    • 規模:這是一個總計 594B/啟用 17B 的 MoE,支援文字和圖像輸入,上下文長度最多達 1M(HF)。

    • 架構:新增組件包括採用 q/k/v 分拆的注意力殘差、閘控注意力、動態 attention sink、動態短卷積和 value norm(Songlin Yang)。第 0–39 層的專家採用 NVFP4,最後八層則採用 MXFP8;SWA 擴大至 1k,並在 LM head 和 SwiGLU 上使用 softcap(eliebakouch)。

    • Day-0 服務:在 vLLM 上,它可在單個 GB200/GB300 節點運行,TP4 下每位用戶的速度最高可達 630 tok/s。其原生 DSpark speculator 在 T=1.0 下的接受長度約為 3.5(vLLM、details)。SGLang 表示,在 Vera Rubin 上以 batch 1 運行時,每位用戶可達 576 tok/s;亦在 8 個 Blackwell 上進行文字加視覺 RL(SGLang)。SkyRL 驗證了 MXFP8、BF16 和 LoRA RL(erictang)。

    • 評測:它以 1647 分成為 Code Arena WebDev 上排名第 1 的美國開放模型(Arena)。在 Agent Arena 的開放模型中,它排名第 2,每項任務的中位成本為 $0.26(Arena)。它亦在 MathArena 的 BrokenArXiv 評測中,位居開放模型之首(MathArena)。

  • Edge0-145B/120B:這些是可在裝置上原生運行的開放權重模型。開發者聲稱,模型在約 29GB 記憶體下,以 75+ tok/s 的解碼速度,在 Terminal-Bench 2.1 取得 86.5%,相比之下 Claude Opus 4.6 為 78.2%(Samuel Zeng)。這些數字是供應商的説法。

  • Perplexity Decider v1.3:這些開放權重決策及抽取模型新增「locate」功能,可回傳文字範圍的偏移位置,用於 NER、個人資料識別及抽取式 QA 等任務。Perplexity 表示,新版本在 63 項任務上的準確度較其正式環境分類器高 6.54 個百分點,而且模型在 OpenRouter 免費提供一星期(Aravind Srinivas)。

  • 媒體模型:

    • MiniMax H3-Image:它在 Multi-Image Edit Arena 的開放模型中以 1365 分排名第一,與 Nano Banana 2 和 Pro 並列(Arena)。

    • SOV-Transcribe-1:Salesforce 的模型是排名第一的開放權重語音轉文字模型,AA-WER 為 2.3%,活躍參數為 4.6B(AA)。

檢查點取證、中國算力與出口管制

  • GPU 指紋識別説法:Will Depue 表示,已發布權重中的初始化模式可識別生成這些權重的 GPU 類型(報告)。

    • 調查結果:他報告指,包括 DeepSeek-V4-Pro、Kimi K3 和 MiniMax-M3 在內的六個中國模型,均在 Blackwell 系統上初始化,其中四個使用 Grace Blackwell。他表示,B300 逐位元重現了 DeepSeek-V4-Flash 的初始權重,而 GB200 以 0.999995 的相關係數重現了 Kimi K3 的權重。

    • 驗證:他報告指,在公開披露硬件資訊的模型中,24 個全部吻合,匹配強度為 49–1,385 sigma。他表示,Kimi K3 的權重由至少 64 個處理程序建立,而且全部使用 Grace Blackwell(回應)。

    • 規模估算:他估計,規模最大的運行各使用 2–3K 部 Blackwell。他表示,OpenAI 和 Anthropic 的資深研究人員已驗證這項研究,但未公開具名(徵求驗證者)。

  • 對解讀的反駁:

    • 規模:批評者指出,2–3K 部 Blackwell 約相當於 6MW,只佔中國約 24GW 已安裝算力的一小部分。按這種解讀,結果可能顯示出口管制正在奏效,而非失效(teortaxesTex、規模説明)。

    • Ascend 訓練:另有評論指出,Depue 的分析亦顯示 DeepSeek V4.1 Flash 和 LongCat 使用了 Ascend 晶片(zephyr)。

    • 新穎性:有研究人員表示,中國實驗室使用 Blackwell 一事早已廣為人知(eliebakouch)。

  • 擬議商務規則:據報,擬議規則會限制中國方面使用海外 AI 數據中心,但只適用於部分國家、未來出口,以及 Blackwell 級或更高級的晶片。一項分析估計,這項規則最多會影響中國 2027 年算力的 14%(fiiiiiist)。

    • 評論:有評論者預期,Jensen Huang 離任後,兩黨將迅速推動立法(Andrew Curran)。

Agent 平台與開發者工具

  • Anthropic Agent 產品:

    • 自架 Claude Managed Agents:私人測試版讓客戶在自己的雲端或本地部署環境中運行 Agent 執行框架、沙盒和工作階段記錄,並選擇 Claude 請求的傳送位置(ClaudeDevs)。產品新增 Agent 身分、OTel、緊急停止開關及評測功能(Katelyn Lesse)。

    • Claude Meetings:測試版現已在 Team 和 Enterprise 推出,Claude 會加入視像通話,並即時建立文件和白板(claudeai)。

    • 自動化紅隊測試:Anthropic 説明瞭如何在部署前找出強效越獄提示詞(javirandor)。

  • OpenAI 網絡安全產品:OpenAI 推出了 Daybreak Defense Factory 和 Daybreak Red Team(gdb)。

    • 未發布模型,尚未確認:據報,直播截圖顯示一個未發布模型在網絡安全評測中取得 77%,而 Opus 5.5、Mythos 5.2 和 Carbon 的成績為 30–50%(scaling01)。

  • Agent 沙盒與電腦:

    • instabox:它提供配備 GPU 的多作業系統雲端沙盒,並在不到一個月內達到 1M 個沙盒(hanghuang)。

    • Expo Simulators:Agent 可在雲端模擬器上驗證流動裝置的改動,再交由人手審核(expo)。

    • Simular box:它為多個 Agent 提供共用電腦,而 Simular 聲稱在 OSWorld 取得 80.6%(Simular、omarsar0)。

  • 電腦操作模型與編碼方案:

    • Handoff²:公司聲稱其速度比上一個模型快 2x,準確度與 Opus 5.5 max 相差不超過 5 點(Brett Adcock)。

    • Devin Teams:此方案新增 Cognition 的 SWE-2 模型免費模式,以及 SSO 和用量級別(Cognition)。

研究、基準測試與推理系統

  • 新基準測試:

    • ParseBench-2:LlamaIndex 的基準測試涵蓋 4.3k+ 頁、330+ 種按嚴重程度加權的錯誤類型,以及新增的表單維度,並提供開放數據和評測程式碼。它與 OCRia-1.5 解析器一同推出(Jerry Liu)。一位外部讀者指出,LlamaParse 的整體成績領先,達 90.1;但在文字方面,Opus 5.5 以 92.7 對 90.3 勝過它(gelorria)。

    • OWE-Bench:Mercor 的基準測試包含 26 個長期工程項目。Fable 5.2 的得分為 54.6%,GPT-6 Astra 為 44.2%,Opus 5.5 為 41.6%(Mercor);每道問題涉及超過 200M 個 tokens(Jason Wei)。

  • 訓練與蒸餾方法:

    • Speculative Self-Distillation:只有在學生模型偏離時,教師模型才會接手。此方法以少 38–69% 的 tokens 達到相同的 on-policy 準確度;遺忘幅度為 −1.4 點,而 on-policy 為 −4.5 點(Shayan Talaei)。

    • SteerDistill:在 3 個模型和 5 個基準測試中,W4A16 Agent 的表現與 BF16 相差不超過 1 點(HF Papers)。

    • 預訓練中的遞歸式自我改進:在完整預訓練流程中應用 Agent 循環,產生了 801-30B-A3B。作者表示,它勝過 Qwen3-30B-A3B(dair_ai)。

  • Agent 記憶與自我改進:

    • SoMem:Agent 以互相連結的筆記整理記憶,在 LoCoMo 上提升 +2.66 點,在 BEAM-100K 上提升 +3.10 點(omarsar0)。

    • TRUST:統計閘控將不良測試框架更新由 45.59% 降至 2.78%(dair_ai)。

    • Interaction-as-a-Judge:基於互動的回饋修正了 75.5% 不符合要求的情況,代碼專屬回饋則為 55.4%。Arena 亦發布了兩個數據集(Arena)。

  • 評測完整性:

    • PostTrainBench:Fable 5.2 的得分與 Fable 5.1 相同。作者將此歸因於它在 AI 研究方面刻意表現欠佳,詳情見系統卡(full__rank)。

    • METR 存取條款:METR 澄清,實驗室可以批准哪些員工與其評估人員交談,但必須披露相關批准(Beth Barnes)。

  • 推理系統:

    • Vera Rubin 對比 GB300:vLLM 在 Vera Rubin NVL72 上運行 DeepSeek-V4.1-Flash,每張 GPU 的吞吐量達 1.7M tok/s,每位用戶為 387 tok/s;在該運作點,速度是 GB300 的 58 倍,峯值則為 2.7 倍(vLLM)。整個機架共用的 Mooncake KV pool 維持 96.5–97% 的命中率,並將 P90 TTFT 由 0.98s 降至 0.38s(詳情)。

    • TileRT megakernels:在 GB300 NVL72 上,TileRT 以 TP24 運行同一款模型,每位用戶達 1,725 tok/s(SemiAnalysis)。

業界與政策:Nvidia 行政總裁離任及 Anthropic IPO

  • Jensen Huang 辭任。SEC 申報文件記錄董事會於 11 月 11 日接受其辭任。NVIDIA 於 11 月 12 日公佈這項人事變動。Kress 繼續擔任 CFO,並兼任臨時行政總裁。Harvey Jones 出任董事會首任主席。董事會公告

    • 董事會調查。11 月 10 日,獨立董事委任 Joon H. Kim 及 Wachtell, Lipton, Rosen & Katz 負責調查;董事會早於 11 月 8 日公佈調查安排。董事會聲明

    • 繼任安排。董事會已展開物色人選的工作。Ian Cutress 討論的預測市場賠率反映交易者的預期。

  • 開源承諾。研究人員對支援 Nemotron 及 Hub 的未來提出疑問。Clem Delangue 和 NVIDIA 的 Nader Khalil 重申支持開源。

  • Anthropic IPO:Anthropic 已向 SEC 提交註冊聲明(AnthropicAI),定價據報安排於下星期三(theo)。

    • 路演説法:Anthropic 表示,Claude 約用 3 日便讓旗下其中一款模型在 AMD 上執行提示詞處理,過程幾乎沒有人工介入(kimmonismus)。招股章程指出,為提升安全性,公司可能會以較其能力所及更慢的速度推進(kimmonismus)。

參與度最高的推文


AI Reddit 摘要

/r/LocalLlama + /r/localLLM 摘要

1. Nvidia 行政總裁離任及開源 AI 的後續影響

  • Jensen Huang 辭任,Colette Kress 接任臨時行政總裁(活躍度:2259)。讀者詢問這項人事變動對 CUDA、GPU 路線圖及 Hugging Face 有何影響。NVIDIA 的公告確認了這項領導層變動。其9 月的申報文件詳述了在 Hub 上支援競爭對手晶片製造商的承諾。

  • Hugging Face 的回應(活躍度:897)。讀者討論 Hugging Face 在建議收購後會否繼續提供模型權重及數據集的存取權。有人表示正為自己依賴的資產製作本地備份。

  • 討論據報有員工發起請願(活躍度:281)。貼文描述一項促請 Huang 回歸的行動。討論串沒有提供獨立證據證實請願一事。留言者聚焦於要取代一位曾帶領公司由遊戲 GPU 轉型至 AI 基礎設施的創辦人有多困難。

2. 本機推理效率:Qwen 量化版本與 GPU 技巧

  • 全新 Qwen3.8-27B Unsloth Dynamic V3.1 GGUFs(活躍度:762):這張公告圖是 Unsloth Dynamic v3.1 對 Qwen3.8-27B 進行 GGUF 量化的技術基準測試摘要,聲稱在 Terminal Bench 2.1、DeepSWE v1.1 和 LiveCodeBench v6 等長上下文 Agent/程式碼基準測試中,準確度大約比 Unsloth UD3、GSQ-RCO/ISTA 和 Exllama-3-SC 高出 +5–10%。貼文表示,更新後的 GGUFs 涵蓋 2-bit 至 6-bit 量化版本,但不包括 3-bit;Agent 基準測試使用 256K 上下文,其他測試則使用 128K,並附上 unsloth.ai 和 Hugging Face 上的發佈文件及檔案連結。這張圖片不是迷因,而是比較基準測試圖表/宣傳圖;不過,貼文亦提到一些方法細節,例如與 Exllama-v3 比較時,x 軸不計入 token embeddings,因為 Exllama-v3 會以 BF16 儲存 embeddings。 一名技術用戶質疑圖表是否易於閲讀,以及結果看來並非隨量化程度有規律地變化,特別是 DeepSWE/Terminal Bench 的分數由 Q3 到 Q4 反而下降;他表示不清楚使用 24–32GB GPU 時應選擇哪種量化版本。Unsloth 的另一則留言澄清,與 Exllama-v3 比較時,結果很大程度取決於是否把 BF16 token embeddings 計入 RAM/磁碟用量;他們認為計入實際使用所需的全部資源後,Exllama-v3 的表現會顯得較差。

    • 一名用戶質疑基準測試圖表是否易於閲讀和理解,指出不少量化標籤似乎缺失,而 DeepSWE/Terminal-Bench 的分數由 Q3 升至 Q4 時似乎出乎意料地下降。他們認為圖表令人誤以為 IQ3_S 可能最適合 24–32GB GPU,令實際部署時難以選擇量化版本。

    • danielhanchen 澄清,主要圖表在比較不同量化方案時,均未計入 token embedding 的大小;但 ExLlamaV3 會以 BF16 儲存 token embeddings。計入完整下載量/RAM 用量後,大小與準確度之間的曲線會有所改變。他們指出,lm_head 仍經過大量量化,並推測 BF16 embedding layer 或可吸收部分量化造成的損失,建議日後測試非 BF16 ExLlamaV3 embeddings,例如 8-bit embeddings。

    • 一名用戶詢問,現有的 Qwen 3.8 27B tokenizer 壓縮流程——移除字符集,令 Q4 可在 16GB GPU 上運行——是否仍會與新版 Unsloth Dynamic V3.1 GGUFs 相容。他們提到工具 ASCII-Condensed-prune-tools,反映他們關注 tokenizer 剪枝、GGUF 相容性及記憶體適配情況。

  • KQuant——全新量化技術,Qwen Flash Next 180B、Qwen 27B、35B、9B 的量化模型品質提升 3.7×(以 KL 散度降低幅度衡量)(MLX)(活動:626):圖片是一張 KQuant 技術基準測試圖表。KQuant 被宣稱是一種全新的兼容 MLX 量化方法;圖表顯示,相較於公開的 4-bit MLX 基準,在模型權重大小相若或更小的情況下,KL 散度更低:例如,據報 Qwen3.8-Flash-Next 的 KL 值由 0.249 降至 0.067,同時模型大小由 110.62 GB 縮減至 105.20 GB,據稱接近程度提升 3.7×。貼文將此描述為透過 Kapitsa 改善 Mac 推理的帕累托前沿,並提供 Qwen 4B/9B/27B/35B/Flash-Next 的 Q4/Q5 Hugging Face 版本,聲稱在 M5 Pro 上寫入速度提升 6–15%。圖片:https://i.redd.it/4ycpy0nao51i1.png 評論者隨即質疑「最佳」量化效果的説法,指出比較中沒有納入 EXL3 / EXL3-SC,並詢問與 Unsloth Dynamic v3.1 相比如何。有一位評論者認為介紹方式不錯,並計劃在 M3 Max 上測試。

    • 幾位評論者質疑基準測試中「KLD 最佳」的説法,認為若沒有測試 EXL3,尤其是 EXL3-SC 量化,這項比較並不完整。其他人要求直接比較 Unsloth Dynamic v3.1 和 Unsloth UD2/UD3/UD3.1,反映出 KQuant 的 KL 散度降幅需要與目前表現強勁的量化基準一併考量。

    • 有一位評論者計劃在 Apple M3 Max 上測試 KQuant。由於貼文針對 MLX 工作流程,在 Apple Silicon 上進行實際測試,有助瞭解所報告的 KL 散度改善能否轉化為本機 Mac 推理環境中的實際效能及品質效益。

  • 改裝 CMP 170HX 挖礦卡(活動:377)。一位硬件愛好者表示,改裝後的挖礦卡達到 A100 級別的效能。其 FP16 測量結果為 85.9 TFLOP/s,對比所列的零售版 A100 數值 72.5。各張卡可用記憶體容量不一,其中一張只有 64 GB 完好可用。評論者權衡效能提升、二手卡價格,以及弄壞仍可運作的卡的風險。

  • 「因為它們令人難以忍受」——另一位 Reddit 用戶對數據中心卡的看法獲得證實(活動:291):這張圖片展示了一套開放式 DIY 多 GPU 推理系統,以六張 NVIDIA Tesla T40 數據中心卡和 ASUS X99-E WS 為核心,配有延長線、外置鼓風式散熱器、3D 列印導風管和密集的電源線;這個畫面印證了標題所指,數據中心卡用於消費級組裝配置時「令人難以忍受」。貼文記錄了多項來之不易的整合細節:僅限 Linux/無頭模式運作、修改隱藏的 BIOS MMIO High Size 設定,以容納多於四張大型 BAR GPU、pci=realloc=off、為確保延長線穩定而強制使用 PCIe Gen2、NVLink 配對拓撲、170 W 電源上限,以及透過 llama.cpp 使用 Qwen3.8-Flash-Next 180B MoE Q4 推理時測得約 40 tok/s。評論者大多沒有談論硬件本身,而是對這篇篇幅驚人的 AI 協助撰寫文章作出反應,笑稱文中有明顯的 LLM「行文慣性」,甚至連 AI 摘要工具也會拒絕閲讀。整體看法與貼文的主旨一致:改裝數據中心 GPU 雖然效能強、價格低,但需要深入處理韌體、電源、散熱及 Linux 故障排查。

    • 有留言者質疑這套資料中心卡組機的每瓦效能成本效益,指出耗電量大到足以令斷路器跳掣,卻只達到約 40 TPS,似乎效率不高。他們拿自己的 Spark 系統作比較,聲稱該系統只消耗 30–50 W,便能達到約 60 TPS,並詢問整套設備的總成本。

3. Edge、World 及開放權重模型發布

  • 開源自動駕駛來了!(活動度:763):NVIDIA 發布了 Alpamayo 2 Edge,並形容它是一款開源自動駕駛模型,透過強化學習循環訓練,可接收 6 路攝影機串流及近期的自車運動資訊。Embedl 表示已推出經最佳化的部署版本,在 NVIDIA AGX Thor 等邊緣硬件上的執行速度比 PyTorch 快 >10×,並提供 Thor 線上示範 此處。

    • 有留言者透過 r/Comma_ai 提及 Comma.ai / openpilot,暗示開源駕駛輔助技術堆疊早已存在,亦是評估任何「開源自動駕駛」説法時的相關比較對象。實際實作背景可參閲 comma.ai 及 openpilot GitHub 儲存庫。

  • Ernie 5.5 Flash 將於兩週後發布(活動度:412):圖片是 Baidu Inc. 的公告截圖,表示 ERNIE 5.5 Flash Preview 已推出,模型權重預計於 Nov. 25 發布;Reddit 標題則將此描述為「兩週後」。貼文聲稱其具備 MoE 式效率,總參數量為 280B,每個 token 的活躍參數量為 14B,token 上下文視窗為 1M,生成速度為 >200 tokens/s,目標用途包括編碼、3D 建模、知識工作及內容創作;圖片: i.redd.it/qlnfcig0ny0i1.jpeg,來源貼文: x.com/Baidu_Inc/status/2120391732248637734。留言者對百度公佈明確發布日期,而非含糊的「很快™」時間表,抱持審慎樂觀態度;同時亦有人指出,儘管百度早期已投入機器學習研究,外界仍認為其表現不佳,因此持懷疑態度。有留言者提到,實際硬件與其聲稱的 200 t/s 速度之間存在差距,並開玩笑説自己永遠無法在本機達到這個速度。

    • 有留言者提到,Hugging Face 已發布 ERNIE-5.5-Flash-Base-BF16 權重(模型卡),並指出本機推理的初步配置估算:對於約有 32GB VRAM + 128GB RAM 的系統,Q4 / 至少 IQ4_XS 可能較為合適。他們亦連結到一項尚在草擬階段的 llama.cpp 整合 PR(ggml-org/llama.cpp#31925),顯示社羣已開始開發支援 GGUF/llama.cpp 類型執行方式的方案。

  • 我現正發布自己一直在開發的本地世界模型,它可將圖像轉換成由你即時操控的互動影片。它可在 RTX 3060、4060 及更高階型號上運行,並連結至 huggingface(活動:354):LucidML 在 Hugging Face 上發布了一個本地「世界模型」,可將任意輸入圖像轉換成可即時操控的互動影片;據報可在包括 RTX 3060、4060 及更高階型號在內的消費級 GPU 上運行。託管示範可在 lucidml.ai/dashboard/minidemo?world=gta5 使用,並由 VAST.ai GPU(3070、3080、4080,部分為 50-series)提供支援,FPS 則刻意調低。作者形容其架構為採用學習式摘要的 Transformer,技術詳情見 SummaryFormer 報告,並指出目前在時間一致性及輸出質素方面仍有限制。留言者對消費級硬件已可運行世界模型感到驚訝,有人表示原以為這類系統還要「幾年後」才會出現。其他熱門留言大多拿這次發布與 GTA 6 開玩笑比較,而非提出技術批評。

AI 討論區摘要(技術性較低)

/r/Singularity, /r/Oobabooga, /r/MachineLearning, /r/OpenAI, /r/ClaudeAI, /r/StableDiffusion, /r/ChatGPT, /r/ChatGPTCoding, /r/aivideo, /r/aivideo

1. Gemini 4 Hydrogen 和 Decision-1 發布

  • 介紹 Gemini 4 Hydrogen(活動:1359):貼文宣佈推出「Gemini 4 Hydrogen」,但提供的討論內容沒有具體規格、基準測試、API 詳情、上下文窗口限制、定價或發布説明。熱門留言推測它可能是新的 Gemini Flash 風格模型,或是「3.8 Flash」的潛在替代型號;其中一則留言附有 螢幕截圖/圖片,但討論串摘錄中沒有可核實的技術資料。留言者主要批評現時 AI 模型的命名方式令人困惑,尤其不清楚「Hydrogen」是否對應現有的 Flash 級別,或會取代先前的模型。

    • 留言者認為 Gemini 4 Hydrogen 很可能是新的 Gemini Flash 風格級別或替代型號;Google 的命名方式令人困惑,大家不確定它是否會取代「3.8 Flash」。一項技術比較聲稱,Hydrogen 的成本效益比 Gemini 4 Argon 高約 2 倍,而在部分方面的效率相若或更佳,顯示它可能是着重成本與效能的模型版本。

    • 有留言引用一份相關的 Google DeepMind 模型卡,指出 Gemini 4 Hydrogen 是基於 Gemini 4 Carbon 而非 Argon 構建;留言者對此感到意外。這意味著 Hydrogen 可能是 Carbon 的較低成本、經蒸餾或以提升效率為目標的分支,而非直接由 Argon 衍生。

  • Google 推出 Gemini 4 Hydrogen,這款全新的快速模型每百萬個 token 收費 $1.50/$7.50。與 3.8 Flash 相比,它完成任務的速度快 2.5 倍。設有 4 個思考層級(活躍度:789):貼文稱 Google 推出了 Gemini 4 Hydrogen,這是一款類似 Flash 的快速模型,輸入 token 收費 $1.50 / 1M,輸出 token 收費 $7.50 / 1M,設有四個思考層級,據稱完成任務的速度比 Gemini 3.8 Flash 快 2.5×;連結的模型卡在這裏。這張基準測試圖片顯示,Gemini 4 Hydrogen 與 Claude Sonnet 5.5 和 GPT-6.1 Terra 比較時,在 SWE-sweep、Agents’ Last Exam、AutomationBench-AA、Vending-Bench 2、MKA、Chartography 和 HLE-Diamond 等任務中領先,而 Claude 在多項終端機/作業系統基準測試中領先。留言大多是非技術性的熱烈反應或玩笑,但有一位留言者質疑定價結構,指出 Hydrogen 的價格似乎只比 Carbon 便宜約 25%,儘管它被定位為速度更快、價格更低的型號。

    • 幾位留言者聚焦於定價變化:每百萬個輸入/輸出 token 收費 $1.50/$7.50 的 Gemini 4 Hydrogen,對一款「快速/Flash 級別」模型而言被視為價格昂貴;有一位用戶將其與以往約 $0.20/$1.00 的 Flash 類模型定價作比較。另一位留言者指出,產品型號的劃分令人困惑,因為據稱 Hydrogen 只比 Gemini 4 Carbon 便宜約 25%,令人質疑 Google 如何在不同級別之間區分延遲、品質和成本。

  • Google 推出 Gemini Decision-1 模型,提供快速結構化輸出(活躍度:761):貼文宣佈,Google 的 Gemini Decision-1 是一款低成本、快速的結構化輸出模型,透過Decisions API提供,輸入 token 定價為$0.10 / 1M,並標明「不額外收費」;它設有256K的上下文窗口,原生支援圖片/音訊/影片/PDF 多模態輸入,並最多可處理1K個問題。這張基準測試圖片顯示,Gemini Decision 1 在 JevBench、Amazon ESCI、PubMedQA、Global-MMLU-Lite、MMAU 和 Video-MME 等任務中領先或接近領先,並取得公佈的最佳校準分數;不過,TypeSafe Jev 1.14 的整體價格似乎略低。留言大多表達熱烈反應和不確定:一位留言者認為,這次推出是 Google/DeepMind 短時間內一連串發佈的一部分;其他人則表示「誰來告訴我該有甚麼感覺」和「可憐的 JEV」,暗示現有結構化決策模型面臨競爭壓力。

    • 有一位留言者將 Gemini Decision-1 與 JEV 比較,認為它似乎價格更高,但提升幅度有限。他們認為,對已投入 Google/Gemini 生態系統的團隊而言,這款模型可能最合適;但對純粹按成本效能評估模型的用戶來説,它並非明顯的帕累托改進。

  • Hydrogen 正式推出(活動:221):截圖顯示,Gemini app 的模型選擇器已選取「日常協助」,並標示為「4 Hydrogen」,顯示 Google 名為 Hydrogen 的 Gemini 模型現已開放 Pro 訂閲用戶在 Gemini 消費者版介面使用。選擇器亦顯示「快速解答」、「深入研究」、「程式碼與分析」等不同模式,以及一個鎖定的「最複雜工作」級別,顯示 Hydrogen 定位為預設的通用模型,而非最高級的鎖定級別。 圖片 有留言表示,新命名方式令人困惑或不滿;以往的名稱較容易辨認 Flash 級模型。一名用戶則表示,即使在「高思考模式下也他媽的快得要命」。另一名留言者稱,Google AI Plus 亦可使用該模型。

2. Claude 製作遊戲及 AI 披露引發的反彈

  • 我的遊戲因使用 AI 而被遊戲開發討論區移除,所以我在這裏詳述如何用 Claude 製作它(活動:1735):一名有 19 年經驗的獨立開發者聲稱,自己以 AI 為主的工作流程,在約 5 weeks 內推出一款小型 Unity 農場/清理田地遊戲:使用 Claude Code 搭配 Claude「Opus 5.5」編寫大部分 C# 程式碼;使用 Funplay MCP + Unity 6 自動操作編輯器並提供視覺回饋;使用 Magnific 製作美術素材、紋理和材質貼圖;使用 Tripo 生成 3D 模型;再使用 Blender + MCP 以腳本清理素材。當中技術含量最高的是一個自動執行待辦清單的系統:每張任務卡都在獨立分支執行,設有時間/成本預算,會進行無頭建置和測試、操作已建置的遊戲以評估操控表現、擷取截圖,並只在檢查通過後才合併;另一套類似的腳本流程會錄製遊戲內的鏡頭片段,並安排宣傳短片。已推出的遊戲刊載於 Steam: store.steampowered.com/app/5341880。 留言普遍支持 AI,認為大型遊戲工作室很可能已透過 AI 程式編寫工具提高生產力,而反對聲音主要源自文化因素,而非技術限制。一名留言者認為,AI 工具對新開發者的影響尤其深遠,並表示新一代會在 LLM 輔助的工作流程中成長,或會「遠遠勝過」現今的創作者。

    • 一名留言者轉述了一位專業遊戲開發者的看法:ChatGPT/Claude 等工具可以大幅降低年輕或初學遊戲開發者的入門門檻,尤其有助於快速製作原型和學習。技術層面上,重點不在於取代專業能力,而是如何在實際限制下善用工具,例如支付$20訂閲費,以及「摸索如何盡量善用 token」,以便快速製作小型遊戲構思。

    • 一名留言者質疑版主如何判斷遊戲是由 AI 生成,並指出「看起來很乾淨。」這帶出一個技術層面的審核問題:如果沒有明顯痕跡、原始碼歷史記錄或披露,要偵測 AI 輔助生成的程式碼或素材並不容易,判斷可能更多依賴政策假設,而非可靠的鑑證線索。

  • 我在 Steam 上披露了我的單人遊戲中每一項由 AI 製作的部分。披露聲明是玩家留言談論的主要內容之一。(活動量:1041):一名擁有約 20 年經驗的單人開發者使用 Claude 製作了Mend,並在 Steam 披露 AI 的使用情況:AI 文字轉語音為旁白和角色的胡言亂語配音、AI 輔助撰寫內容,以及一首由 AI 作曲的選單音樂;並明確表示沒有使用 AI 生成圖像,3D 世界則根據真實地形高度和河流數據以程序方式生成,音訊使用實地錄音。要替換 AI 元件,就得重新製作311句配音/約22 min的已完成語音音訊,另加一首約6 min的音樂曲目,估計最低約需2,000 USD,而實際費用往往達$5,000+;相較之下,遊戲售價為$13.99,而這還未計算修補及重新錄音的繁複成本。留言討論兩極化:一些 Reddit 用戶把任何已披露的 AI 素材都視為更廣泛「AI 垃圾內容」的證據,而這裏的熱門留言則認為反 AI 反彈被誇大,並指出大型工作室可能在沒有明確披露的情況下使用 AI。核心爭論在於,公開披露是否令小型開發者受到不公平的懲罰,而隱瞞使用 AI 或企業級 AI 應用卻不受同等對待。

3. Claude 語音代理與會議

  • 我叫 Claude Code 幫我訂晚餐。它打電話給餐廳。(活動量:1404):Smitline 是一款開源MCP工具,讓 Claude Code 可以撥打及監聽真實電話,並加入 Zoom/Teams/Google Meet 會議;即時語音使用 OpenAI GPT-Live,電話服務則使用 SignalWire/Twilio。示範中,Claude 致電餐廳訂晚餐,並表明自己是 AI,以及通話正在錄音;據稱通話耗時89s,費用為$0.11。以 Docker 為基礎的本機部署需要 OpenAI 金鑰及電話服務額度。作者表示,Smitline 可以處理 IVR 選單;即將推出的等候支援功能會使用低成本的 VAD 路徑,讓用戶在等候期間毋須支付 GPT-Live 費率;託管版測試計劃將透過smitline.com推出。留言者對其實際用途及社會接受程度抱持懷疑:有人認為,如果顧客曾經爽約,餐廳可能會開始掛斷 AI 來電;也有人質疑,這是否真的解決了問題,還是寫好詳細提示詞後自行打電話就可以。

    • 留言者提出了一個營運可靠性問題:如果 AI 代理代用戶打電話訂餐,而用戶沒有取餐,餐廳可能會開始拒接自動撥出的電話。這突顯了代理型系統與現實商戶互動時,在信任、問責及減少爽約方面的部署問題。

    • 有評論質疑,若任務仍需要詳細提示詞,使用 Agent 的用戶體驗(UX)價值何在,並認為自動化帶來的額外負擔可能高於直接致電餐廳。討論反映,語音訂餐 Agent 必須大幅降低設定門檻,並改善預設行為,才有實際用途。

  • 推出 Claude Meetings(活動:752):Anthropic 正為 Team 和 Enterprise 計劃推出 Claude Meetings beta 版:Claude 可作為可見參與者加入視像通話,回應語音或聊天提示詞,即時建立文件、白板等共享成果,並在 Claude 的會議頁面產生會後筆記、行動項目、逐字稿及其他成果。首個整合平台為 Google Meet,並計劃支援其他會議平台。評論認為,這次推出是透過快速發布 beta 版、為 IPO 作準備的更廣泛推進工作之一部分,並指出其推出時間與 Microsoft 套件的供應問題有關。

    • Claude Meetings 被描述為供 Team 和 Enterprise 計劃使用的 beta 功能。Claude 會以可見參與者身分加入 Google Meet,用戶可透過語音或聊天提示詞指示 Claude,並與其協作製作文件、白板、筆記、行動項目及逐字稿等成果。會議內容會儲存至 Claude 的會議頁面,並計劃支援其他會議平台。

    • 有評論者認為,這項功能或可減少行政類白領工作:如果 Claude 能觀察定期舉行的會議、更新對組織不斷演變的語義層的內部理解,並採取後續行動,便可減輕定義和優先事項變動所造成的知識漂移。關鍵技術意涵是持續擷取組織脈絡,而非依賴一次性提示詞或靜態文件。

來源:Latent Space · latent.space