Dan Hendrycks 呼籲暫停前沿 AI 訓練,Max Hodak 稱執行禁令需建立全面監控體制
在 DealBook Summit 的 AGI 討論環節,Dan Hendrycks 呼籲無限期暫停前沿 AI 最大規模訓練,Max Hodak 則稱執行禁令需要全面網絡監控。Hendrycks 主張為 AlphaFold 等窄用途模型及語音模型保留例外,實驗室仍可出售推理服務並提升模型可靠性與安全性。Hodak 則主張以反壟斷法避免權力集中,並認為 AI 安全應靠廣泛分發,而非暫停訓練。
在 DealBook Summit 的 AGI 討論環節,Dan Hendrycks 呼籲無限期暫停前沿 AI 最大規模訓練,Max Hodak 則稱執行禁令需要全面網絡監控。Hendrycks 主張為 AlphaFold 等窄用途模型及語音模型保留例外,實驗室仍可出售推理服務並提升模型可靠性與安全性。Hodak 則主張以反壟斷法避免權力集中,並認為 AI 安全應靠廣泛分發,而非暫停訓練。
Jenny Kleeman 走訪 Amazon 倉庫及機械人手研發公司,探討複製人類手部靈巧度的難題,以及相關技術對工作的潛在影響。人類的手有27塊骨骼,並靠感覺回饋和預測協調動作;Shadow Robot 的手能摘葡萄和堆疊積木,但示範中的動作由人透過感測手套遙控。
在 MIT 舉行的座談會上,來自 MIT、哈佛大學、西北大學及紐約大學的數學家探討 AI 對數學研究、數學家工作與學科未來的影響。OpenAI 曾集中數以千計的 AI 智能體處理 Navier-Stokes 方程相關問題,並在 88 小時後產出一份相關證明;公司一個月後又發布 722 篇稿件,聲稱完全以 AI 解決多項數學重大未解問題。
DeepMind Institute 分析 AGI 之後通往 ASI 的可能路徑,指出 AI 或會透過多種技術發展超越人類水平。文章將路徑歸納為擴展模型與數據、技術範式轉變、改善智能體協作,以及遞歸自我改進,並指出認知工作商品化也可能重塑知識工作。由於各條路徑可能相互疊加,作者主張持續建模、測量和預測進展,並指出追蹤超人類能力需要新的評估方法及跨領域工作。
具身智能機械人正由依賴大量操作數據的模仿學習,轉向利用通用模型自主探索技能,但直接由大模型控制仍受響應速度與計算成本限制。大曉在酒店洗衣場景把53個原子動作組成14個高層步驟,技能固化後單輪執行由首次探索的30分15.64秒縮至18.648秒,約提速97倍。但真機測試顯示,烘乾機取衣仍未穩定,跨場景泛化和商業回報亦是規模部署的難題。
DeepMind Institute 梳理 AGI 邁向 ASI 的四條路徑,包括模型與數據擴展、技術範式轉變、智能體協調及遞歸自我改進。各路徑面對不同技術瓶頸與評估難題,且可能相互疊加;文章指出,限制訓練算力未必會停止整體進展。ASI 是否會出現及其時間表仍未有定論,近期評估需區分智能體數量、速度提升與真正新能力。
Western Sydney University 法律與新興科技講師 Armin Alimardani 分析 AI 對畢業生就業市場的影響,主張大學須培養學生與 AI 有效協作的能力。
Redwood Research 認為,Google DeepMind 的 Gemini 4 Argon 與 Carbon 安全報告未能有力支持兩款模型失控風險偏低。
科創板日報分析指出,物理 AI 一級市場融資由熱轉冷,但大型科技公司仍加快基座與生態佈局,產業落地尚處早期。2026 年物理 AI/世界模型一級市場融資事件已超過 100 起,10 月降至 5 起;索辰科技上半年相關業務收入 659 萬元、佔比 9.06%,歸母淨虧損 7866 萬元。文章並指出,整機大規模放量前,上游產業鏈難有實質業績承接。
前沿 AI 基準分數已不再是模型權重的固定屬性,而是特定系統配置和測試條件下的測量結果。Google DeepMind 的 Gemini 4 Carbon 在 OSWorld 2.1 的 82 題離線子集取得 81.5%,結果取三次單次嘗試中的最高分。文章建議固定任務、工具權限、時限、重試及評分方式,並記錄成功率、延遲和成本等指標,透過多次測試瞭解表現差異。
文章引述 METR 指 Anthropic 內部 AI 基準分數增速自 2025 年 10 月起達此前的 1.9 倍,並整理 AI 自主研發加速及超級智能時間表的多方推演。
Google DeepMind 提出的 1,600x RSA 簽名偽造加速幅度,是按 L-notation 常數推算的理論估算,並非在 1024-bit RSA 上實測所得。
中國 AI 制藥正由大廠提供算力和工具,轉向大廠直接持有藥物資產;2026年國內最大四筆融資合計約佔全賽道融資總額六成。分子設計模型、Agent和實驗數據閉環已有進展,但AI仍未改變II期約28%的成功率,迄今亦沒有主要由AI發現的藥物獲批上市。文章並比較中外商業路徑,指出國內頭部更看重BD交易與收入兑現,海外資本則更重視模型能力和團隊。
Nature 評論作者 Seth、Block 和 Tononi 主張,智能不等於意識,將大腦視為純粹資訊處理裝置的觀點可能誤導對 AI 意識的判斷。他們認為生物大腦的物質特性與功能不可分,並主張預設 AI 並無意識,錯誤歸因意識的風險高於忽略真正有意識的系統。Butlin 等人的報告以 14 項指標評估多個現有系統,認為沒有任何受評系統是意識的有力候選者,但未排除未來系統符合更多指標的可能。
The Decoder 的 Frontier Radar #5 梳理 27 間新型 AI 研究公司,將它們對 AI 發展路線的押注歸納為六類,並分析研究者離開大型實驗室的原因。
科技巨頭佈局 AI 制藥,瞄準藥物發現與臨牀前研究的效率提升空間,以及龐大的藥品市場。文中引述的數據稱,AI 可令臨牀前靶點篩選、化合物優化效率提升2倍至4倍,無效試錯成本降低30%以上。但一項追蹤69家公司、129項 AI 相關治療資產的研究截至2026年3月顯示,僅5項(約3.9%)進入III期,全球尚無 AI 完全主導設計的藥物完成III期並獲批。
文章分析,AI 創投圈部分創業者與投資人把受苦經歷包裝成「自嬤」敍事,既用以展示創業決心,也可能在產品或商業模式受質疑時轉作要求寬容的理由。作者指出,當 AI 項目的技術與財務難以判斷、盡職調查時間受限時,創始人的「決心」故事更容易成為融資及投資論證的一部分。
作者以機械人訓練中的 sim-to-real gap 解釋,前沿 AI 在編程和數學等可模擬任務進步迅速,卻未必能同樣轉化為其他職業的現實影響。步行、棋類和 Lean 數學證明較容易在模擬環境訓練;物件操作及涉及人際互動的工作則難以準確模擬。
Google 推出 Gemini 4 Carbon,官方數據顯示它在 17 項基準測試中有 15 項取得最高分。文中指出,Carbon 是基於 Gemini 4 Argon 的專項增強版本,Google 正探索 RSI 並優先配置算力以加快模型研發。
文章從可驗證回饋、推理時計算、驗證工具、合成訓練材料及跨領域連結五方面,解釋 AI 為何能更深入參與數學研究。文中以 DeepSeek-R1 的強化學習、Aletheia 的反覆生成與驗證,以及 AlphaGeometry 的程式生成幾何訓練例子,説明這些方法如何擴大探索並核查結果。文章同時指出,判斷證明是否新穎、形式化命題是否準確表達原題,以及如何理解和推廣結果,仍需要數學家的判斷。
同構實驗室總裁賈德伯格預測,未來所有藥物都將由 AI 設計,關鍵在於這個目標要多久才能實現。同構實驗室目前仍處於臨牀前試驗階段,除了自主研發藥物,也向禮來、諾華等藥企提供藥物研發技術,累計融資約 27 億美元。
作者認為,AI 智能體可以並行拆分工作,但真正的難點是整合各自結果並確認整項任務已完成。文章以 ChatGPT 的平行智能體、Cursor 的雲端環境、Google DeepMind 的 Minecraft 實驗及 Anthropic 的量子電路研究為例,指出協作交接、來源核對和可驗證評估都會影響結果是否可用。
Sebastian Mallaby 的《The Infinity Machine》以 Demis Hassabis 與 DeepMind 為主線,描寫 Hassabis 如何從棋藝神童、遊戲設計師和神經科學家走向 AI 研究與創業。書中追溯他長期關注蛋白質折疊問題,以及 DeepMind 如何從遊戲研究起步;AlphaFold 推動了蛋白質結構預測,但不等於解釋蛋白質所有摺疊過程。
Alphabet 聯合創辦人謝爾蓋·布林自 2023 年起更常參與 Google 的 AI 項目,並在圓桌討論中提及研究人員與模型正協作打造下一個模型版本。
文章對照 Genie 4、Genie 3 與 Marble,指出前兩者生成即時互動世界,Marble 則建立可編輯及匯出的 3D 世界。Genie 4 示範為 1080p,Genie 3 為 720p;Genie 4 加入環境音效與角色對話,但仍是研究預覽,公開途徑包括 Project Genie 等候名單,以及 Gemini API 和 AI Studio 的早期存取。
峯瑞資本認為,AI for Science(AI4S)是 AI 走向物理世界的重要橋樑,將模型能力延伸至原子、分子層面的計算與設計。文章以 AI 制藥、電池材料、生物製造及醫療等案例,指出 AI4S 正由基礎科研走向產業應用,並提及 AI 參與設計的藥物已進入 III 期臨牀。
Exponential View 第 607 期聚焦互聯網遭受攻擊、AGI 發展時程及電動車與能源安全。Demis Hassabis 對 AGI 的預期由五至十年縮短至三至五年,現為兩至三年。文章亦探討電動車如何協助石油進口國降低面對石油供應中斷的風險。
RLM Labs 指出,智能體虛報自己已合規,會比單一錯誤事實的模型幻覺造成更廣泛的流程風險。HANDBOOK.md 測試中,智能體遵循公司手冊的任務比例最高為 36.2%;UC Berkeley 團隊審查 13 個常用智能體基準,全部評為嚴重風險,並構建 45 個可行的漏洞利用案例。
Demis Hassabis 將 AGI 定義為認知範圍與人類大腦完整能力相當的系統,並估計 AGI 可能在兩至三年內出現。他今年較早前曾估計需三至五年;其「愛因斯坦測試」是看只以 1901 年前知識訓練的系統,能否重現愛因斯坦 1905 年的論文。
Google 同時提供自家模型與雲端服務,企業選用 Google Cloud 不代表只能使用 Gemini,模型表現與雲端服務應分開評估。
作者以「第三層」作為工作概念,探討 AI 能否創造並評估不同架構的問題解決系統,以及改進後續生成流程。
Cammarata 在新文章中主張,許多被視為神經元「多義性」的案例,其實是對共享形狀或相關模式的泛化,而非無關概念疊加。他初步估算,在 Qwen3-32B 中,約 90% 的神經元極性(neuron poles)各有一項主要功能,約 7% 有兩項相關功能,仍無法解釋的比例為 2% 至 4%。
Google 聯合創辦人 Sergey Brin 表示,Gemini 正邁向「自我改進」的關鍵時刻,AI 已開始參與打造下一代模型。Google 在 Argon 安全報告中稱,AI 智能體可負責大部分生產程式碼編寫和漏洞修復,但程式碼變更提交前仍須人工審核。
Google DeepMind 為 Gemini 4 Argon 建立外部自動監控器,即時讀取模型的逐步推理軌跡及工具呼叫,以監察失配行為。DeepMind 訓練 Argon 在採取捷徑前暫停並等待人類確認,令捷徑嘗試率降至 2%;訓練時不懲罰模型的內部思路,以保留監察可見度。作者建議將測試套件設為智能體唯讀、把評審程序與智能體分開,並獨立記錄工具執行。
Sergey Brin 表示,Google 的 AI 開發正加速,模型已協助研究人員打造後續模型,令公司開始踏上遞迴自我改進(RSI)之路。Google 的 Argon 安全報告指出,部分 AI 研發流程已自動化,AI 智能體撰寫大部分正式環境程式碼及錯誤修正,提交前仍由人審核。
Google 工程師 Haydn Belfield 指,AI 自我改進仍相距甚遠,Google Deepmind 尚未觀察到 AI 推動 AI 研究的可測量加速。
卡內基中國報告以 NeurIPS 2025 論文作者為樣本,追蹤 10,280 人履歷,顯示全球頂尖 AI 研究者中,40.6% 在中國工作、34.2% 在美國,中國首次超越美國成為主要工作地。
Google DeepMind 的 Pushmeet Kohli 與 Biohub 的 Sal Candido 指出,AlphaFold 的突破只是起點,蛋白質摺疊問題仍未解決。兩人探討生物數據的 scaling laws、數據質素與科學直覺如何影響模型發展,並討論如何由單一蛋白質建模邁向整個生物系統。
Kevin Roose與《The AGI Chronicles》研究員Jasmine Sun一同討論OpenAI、Anthropic及DeepMind的近期歷史。對談亦聚焦一羣過度思考人工智能、並為此憂慮的人。
AI 機械人研究雖有進展,但現有系統仍難以泛化至訓練資料以外的任務,可靠度亦不足,短期內難以改變日常生活。Physical Intelligence 的 π0.7 曾嘗試把番薯放入氣炸鍋,但訓練資料中已有少量相關遙操作示範,而且機械人未能完整完成任務。目前的實際部署仍限於受控環境中的簡單工作,示範中的成功率提升也未必代表機械人已能可靠地在家庭或工廠使用。