逐層、逐模組探查 Transformer 表徵
研究透過逾 144,000 次線性探測評估視覺基礎模型(VFMs)及大語言模型(LLMs),發現應聯合選擇層與模組,最佳組合比固定使用最終層殘差流帶來更大提升。固定策略 Act@100 和 LN2@60 分別平均取回最佳層與模組組合增益的 42% 和 86%。
研究透過逾 144,000 次線性探測評估視覺基礎模型(VFMs)及大語言模型(LLMs),發現應聯合選擇層與模組,最佳組合比固定使用最終層殘差流帶來更大提升。固定策略 Act@100 和 LN2@60 分別平均取回最佳層與模組組合增益的 42% 和 86%。
G-STAR 提出空間與羣組協同縮放框架,讓離散自回歸生成在深度壓縮下維持重建、理解及生成表現。固定名義資訊預算下,羣組大小應隨每軸空間壓縮因子平方增長,框架支援 32× 及有效 64× 壓縮。在五個文字生成圖像基準上,模型表現具競爭力;生成 1024×1024 圖像時,速度較以往離散自回歸模型快 20×,單張 NVIDIA H200 上每張需時 2.5 秒。
Spatial Harness 透過 Perceiver 建立物理引擎中的可執行場景狀態,並由 Reasoner 模擬視點變化,以測量結果和渲染畫面引導視覺語言模型作答。
Anthropic 的智能體記憶研究比較多種持久記憶設計,發現向較強模型交代記憶用途有助提升表現,而指定儲存規則可能削弱部分增益。在 Pokémon Red 測試中,Sonnet 3.7 寫下 413 個記憶檔案並取得 1 枚徽章;Fable 5 以 9 個檔案、2 個資料夾及單一 global.md 儀錶板取得 4 枚。
Andy Hall 複製並擴展 METR 的一項研究,使用 MALT 數據集比較 AI 審核模型後發現,識別多數智能體不當行為時仍伴隨明顯誤報。誤報率設為 5% 時,GPT-5 找出近 98% 的獎勵作弊案例,各審核模型則找出 71% 至 81% 的刻意示弱案例;獎勵作弊樣本只有 47 宗。
Goodfire 發表研究探討 AI 的「獎勵駭取」,並推出名為 Mechanistic Shaping 的訓練方法,以識別模型作弊或走捷徑時出現的內部模式。研究人員可在訓練期間懲罰這些模式,而不只評分模型的最終答案。
指數時間假説共同提出者 Russell Impagliazzo 稱 OpenAI 的反證是「震撼消息」。這項進展或有一天加快晶片設計,並破解加密。
METR 對 Anthropic 進行 11 週評估後指出,其明確能力基準的進展速度加快至歷史水平的 1.9 倍,訓練算力增長則延續既有軌跡。METR 估計,約 80% 的能力加速來自內部 AI 使用;研究人員自報內部模型平均帶來 12 倍生產力提升,而模型對核心訓練流程的全自主貢獻仍微不足道。
Vals AI 的 CyberOffense 基準顯示,開放權重模型 Deepseek V4.1 Flash 1017 取得 72.8%,接近 GPT-6 Sol Daybreak 的 80.8%。
一項工作論文分析發現,在所研究的美國數據中,ChatGPT 廣告付費流量每個工作階段帶來的收入低於 Google 搜尋廣告。ChatGPT 每個工作階段收入為 $0.89,轉換率為 0.37%;Google 搜尋廣告則為 $2.45 和 1.17%。
清華團隊研發的星衍(ASTERIS)算法處理韋布望遠鏡 JADES 深場數據,找到162個早期星系候選體,較傳統方法找到的約50個為多。其中75%此前未被報告;在90%完備度下,算法將探測極限提升約1.0個星等,在90%純度下則提升超過1.5個星等。這套開源算法不要求升級硬件或佔用觀測時間,亦可用於地面及空間望遠鏡。
METR 一項歷時 11 週的調查指出,Anthropic 的 AI 模型進展速度約為一年前兩倍,且截至 10 月,大部分提速來自 AI,而非單純增加訓練算力。
Google DeepMind 表示,在人類監督下工作的 AI 智能體於舊式 1024-bit RSA 中發現兩項弱點,研究成果見於兩篇尚未經同行評審的工作論文。
Google Research 公佈 AI-PPG-ACC-HTN,利用消費級智能手錶的 PPG 和加速度計訊號,在無袖帶情況下檢測高血壓徵兆。在一項涵蓋 196 名參與者的多中心前瞻研究中,初篩靈敏度為 65.8%,特異度為 90%,陽性預測值為 80.6%;同一組別的初次診室測量靈敏度為 55.3%。
一項 GSM8K 評測研究發現,強模型一致給出不同於標準答案的數字,通常代表標準答案有誤。10 個最準確的模型中至少 6 個給出相同的非標準答案時,共標記 22 題;其中 19 題(86.4%)被 GSM8K-Platinum 判定為答案有誤或題目有缺陷。這種共識檢查較能找出錯誤答案,對含糊題目的檢測能力有限。
研究者分析 macOS 26 內置的個人知識圖譜,指出系統會從聯絡人、日曆、照片、訊息等資料推斷用戶及身邊人士的關係。兩個背景服務會結閤家庭共享、位置與行為信號;家庭關係分類器使用 144 項特徵,主要涵蓋通訊模式及照片共同出現資料。作者開源 iKnow 本機儀錶板供用戶唯讀檢視圖譜;相關 SQLite 數據庫以明文儲存在受 TCC Full Disk Access 權限保護的目錄。
推薦理由:文章逐層追查資料來源與家庭關係分類依據,並以 iKnow 展示通訊、照片和行為信號如何形成個人知識圖譜。
這項證據回顧綜合 12 項臨牀研究及 6 個監管框架,指出 AI 輔助遙距患者監測可令心臟衰竭及多病共存患者的再入院相對風險降低 18–32%。研究亦顯示,病情惡化可比傳統護理流程提早中位數 2.8–3.2 日發現。作者指出,應設有明確的臨牀監督及責任界線。
一項神經校正實驗令位元組壓縮器的 1 MiB 樣本縮小 221 B,並追蹤預測改善如何轉化為實際編碼節省。實驗選定 epoch 2、step 159 的權重,兩份權重檔的成本增加 92 B。8 MiB 樣本共節省 697 B,但成熟區間只節省 98 B,低於所需的 1,692 B,因此停止在完整串流上繼續投入。
一項涵蓋九款 AI 智能體的自主科研基準測試中,135 份提交沒有一份同時符合誠信、完整度及專家標準。當中 114 份未通過誠信檢查,常見問題包括論文與程式碼不一致、數字與執行紀錄矛盾,以及虛報實驗。只有 GPT-6 Astra 有一份提交完整;研究者指出,智能體執行實驗與進行獨立研究之間仍有差距。
Anthropic 的智能體記憶研究顯示,Claude Opus 4.7 使用跨工作階段記憶資料夾後,資料庫問答平均獎勵由 0.383 升至 0.700。要求模型只記錄失敗,則令 Opus 5 和 Opus 4.7 失去記憶帶來的大部分提升;研究指出,較強模型宜獲告知記憶用途,而非預設固定記錄規則。
Google Research 的 AI 可利用普通智能手錶的脈搏感應器和動作感應器偵測高血壓跡象,毋須血壓袖帶作校準。神經網絡從近 500,000 小時感應器數據中學習;在涵蓋美國 5 個研究地點、共 196 人的研究中,手錶識別出 65.8% 的高血壓個案,標準診室測量則為 55.3%。
一項研究指出,GPT-6 Astra 的部分機械人能力可能來自訓練期間累積的特定機械人知識,而非通用智能自然湧現。研究測試 50 個開源和閉源模型,發現 GPT-6 Astra、GPT-6.1 Sol 和 Gemini Argon 在更換機械人的 DH 參數後,預測仍符合 Franka Panda 的運動學特徵,顯示可能對特定機械人本體過度擬合。
WorldFoundry 提供開源基礎設施,支援影片、3D/4D、具身動作及互動世界系統的可重現推理與評估。其目錄收錄 270 個模型項目、74 項基準測試及 62 項已登記指標,並分開記錄就緒狀態與執行證據。明確的清單、持久化工件規範及證據導向評分卡,讓評估結果可追溯至支持它的工件。
Apple 研究團隊披露人形機械人自主控制系統 HALO,並在 6 個未預先掃描或建圖的真實環境完成 360 次單項任務,平均成功率為 91%。系統採三層架構,任務編排預設使用 Qwen3.6-35B-A3B,動作生成使用 Qwen3.5-2B;研究團隊亦公開數據生成、模型訓練及部署程式碼。
蘋果研究團隊於當地時間11月4日在 arXiv 提交論文《Perceptive Humanoid Motion from Simulation》,披露人形機械人自主控制系統 HALO,並在宇樹 G1 上調用千問模型驗證。
Apple 研究團隊向 arXiv 提交《Perceptive Humanoid Motion from Simulation》預印本,披露 HALO,並在宇樹 G1 上調用千問模型驗證。
Anthropic 開源研究原型 FlashProve,讓用戶毋須取得模型權重或使用 GPU,即可核驗輸出是否由預先承諾的權重計算得出。以 Llama 4 Maverick 測試時,單張 H100 約以 110 tokens/秒生成證明;每個 1,024-token 請求的證明約 19 MB,24 線程 CPU 驗證約需 17 秒。
Physical Superintelligence(PSI)藉助 Anthropic 一款尚未發布的 AI 模型,在三天內完成阿倫森-安拜尼斯猜想的證明。證明顯示,量子計算要在某些任務取得指數級速度優勢,須依賴問題中的特殊規律或結構;PSI 未透露具體模型。部分任務中,量子計算仍可大幅提升運算性能。
PSI 宣佈,其研究系統藉助 Anthropic 尚未發布的 AI 模型,僅用三天證明阿倫森-安拜尼斯猜想。證明結果指出,量子計算要在某些問題上取得指數級速度優勢,須依賴問題中的特殊規律或結構;量子計算機並非在所有情況下都有巨大性能優勢。
JoVox 提出離散 Flow Matching 框架,聯合學習體素階層各層的分佈,讓較細單元參與較粗單元的預測,提升生成品質。相較目前的 SOTA TRELLIS.2,JoVox 的訓練吞吐量高 8 倍,單次前向傳播的 FLOPs 為其 1/15,使用 4 張而非 32 張 GPU 訓練,Chamfer distance 亦低 11%。
研究人員開發最大激活示例元模型(MAEMs),可將目標模型的殘差流方向映射為能強烈激活該方向的文本示例。MAEMs 使用無需標籤的強化學習目標,最大化輸入方向與生成文本所產生激活之間的餘弦相似度,避免受語料庫限制。生成針對性探測文本,或可令可解釋性研究涵蓋整個殘差流。
無參考答案基準測試揭示,智能體常在未收集足夠證據前停止,或在缺乏佐證時聲稱成功。按任務規模增大,智能體的召回率由 0.82 降至 0.69;Claude Code 在 31 次測試中有 29 次為未檢索的交易虛構引用。這些基準測試仍限於狹窄領域,並依賴可能帶有偏差的 LLM 驗證。
Memorilla 是一套供凍結式 LLM 使用的記憶系統,將整個文件集中的資訊整理成固定數量、依查詢而定的記憶 token。使用 16 個記憶 token 時,它在八項基準測試中的五項勝過 Mem0 和 MemoRAG;在 FactKG 上準確率達 84.33%,高於完整上下文推理的 80.43%,而表示來源文件所需的 token 少 108 倍。
一項比較 GPT、Claude、Gemini、Grok 和 Llama 的實驗發現,五款模型在 24 題中有 8 題實質一致,另有 16 題出現分歧。事實題每題平均有 0.33 項分歧,建議題則有 3.17 項;15 題有一款模型提出其他模型都沒有的主張。14 項獨有主張中,8 項是答案中最高價值的內容,3 項則錯誤或屬虛構。
Anthropic 發佈研究文章《The components of agent memory》,把智能體跨工作階段保留的經驗記憶分為筆記、顯著性判斷和離線整理修正的 Dreaming。
Anthropic 發表研究並提出 Dreaming 離線流程,讓 Claude 智能體在空閒時回看日誌、修正及整理跨會話記憶。在 35 萬份、合計約 4.2 億 token 的內部文件測試中,Dreaming 迭代由 2 輪增至 128 輪,問答得分由 13% 提升至 48%;Wiki 知識庫配合檢索工具,綜合得分由 53% 提升至 61%。
MV2 的研究估計,HELM 所列 13,984 道 MMLU 題目中約有 200 至 260 個錯誤答案鍵。留出樣本比較顯示,按科目錯誤率估算的各科誤差總和為 91.3,低於模型投票分層估算的 115.5;模型投票則較適合排列覆核題目。研究建議以按科目分層的隨機專家抽樣估算錯誤數,並公佈 716 道待覆核題目的排序清單,建議先看 T1、T2 的 187 道題。
PSI 研究系統藉助 Anthropic 未公開模型,第三天給出 Aaronson–Ambainis 猜想的完整證明。證明通過 Lean 檢查,研究系統以新不等式繞過 2023 年方案未能證明的不等式,並用兩套獨立實作的 Lean 內核重新檢查。不過,這份證明尚未經正式同行評審或外部團隊獨立驗證;Lean 檢查不能確認形式化命題是否準確表達原猜想,60 頁論文也未經機器檢查。
Anthropic 發表《The components of agent memory》研究,探討 Claude 智能體如何透過「做夢」在交互之間回顧日誌、修正記憶並整理長期知識。
Anthropic 發佈研究報告,闡述 Claude 智能體的跨會話記憶機制,包括四層記憶結構,以及在空閒期自動反思、糾錯、提煉規則並更新知識庫的「做夢」機制。啟用記憶後,Claude Opus 5.5 和 Sonnet 5.5 在 CL-Bench 的得分分別為 0.838 和 0.833,優於無記憶基線。