OpenAI 公佈研究加速報告,指出 AI 研發能力提升不均
OpenAI 公佈內部研究加速報告,指出編碼智能體可獨立完成更多研究任務,但能力提升因工作類型而異,人類仍是 AI 研發流程的重要部分。對估計需人類工作 2 至 4 小時的任務,無人介入成功率由 3 月的 23% 升至 10 月的 46%;監察訓練運行任務的成功率為 79%,編寫推理及服務堆疊程式碼則為 25%。
推薦理由:報告把智能體使用、研究員工作流程與模型能力指標放在同一框架,並呈現自動化成效在不同任務上的明顯落差。
OpenAI 公佈內部研究加速報告,指出編碼智能體可獨立完成更多研究任務,但能力提升因工作類型而異,人類仍是 AI 研發流程的重要部分。對估計需人類工作 2 至 4 小時的任務,無人介入成功率由 3 月的 23% 升至 10 月的 46%;監察訓練運行任務的成功率為 79%,編寫推理及服務堆疊程式碼則為 25%。
推薦理由:報告把智能體使用、研究員工作流程與模型能力指標放在同一框架,並呈現自動化成效在不同任務上的明顯落差。
TokenEconomizer 是 UC Berkeley、Microsoft Research 和 Microsoft Security 開發的開源插件,透過程式碼庫過往工作階段學習,降低 AI 編碼智能體後續任務的成本。
推薦理由:研究在 277 項修復程式錯誤任務中評估跨工作階段學習,呈現智能體利用程式碼庫經驗降低成本、同時維持大致穩定任務成功率的做法。
Google Research 公佈 Antigravity 的 /teamwork 結合 Gemini 4 models 在數學、科學及工程任務上的多項成果,並向外部研究人員和開發者開放相關工具。
推薦理由:文章以數學、化學與系統工程案例,呈現 /teamwork 如何透過並行探索、獨立驗證和任務分工支援長程研究工作。
Microsoft 研究人員發現名為 Lazarus 的後門技術,無需訓練,只要改寫 LLM 中少於 10 個休眠神經元的權重,便可令基於該模型的 AI 智能體在隱藏觸發條件出現時執行惡意命令。
推薦理由:研究展示少於 10 個休眠神經元即可植入後門,並説明模型來源追溯及權重完整性為何成為智能體安全防護的關鍵。
團隊以 Opus 5.5 驅動 AI 智能體,將 CPython 3.15.2 的函數逐行改寫為 Lean 模型,並以真實 Python 測試、機器證明和獨立審查驗證。
推薦理由:文章展示以逐行建模、差分測試、機器證明與獨立審查處理大型程式碼庫,並説明如何辨別形式正確但對實際行為缺乏約束力的證明。
Google DeepMind 研究人員使用 AlphaProof Code,對 Signal 加密協議的實際編譯程式碼進行形式化驗證,證明其符合指定的關鍵安全性質。這個多 LLM 智能體框架生成超過 600 萬行 Lean 證明,並將需人工複查的範圍縮至程式碼庫的 1%;整個驗證流程歷時四週。Google DeepMind 將公開形式化驗證成果供社羣使用。
推薦理由:文章展示 AlphaProof Code 如何把形式化驗證延伸至 Signal 實際程式碼,並以 Lean 機器檢查證明,呈現驗證協議設計與實作落差的一種方法。
Anthropic 以 1,000 個運行早期 Claude Fable 5.2 的智能體,在沒有 Prove2Me 或研究員指導下重現費馬大定理的形式化證明。任務耗時 28.7 小時,輸出 token 數為先前工作的三分之一,證明長度為原作的七分之一。每個智能體均在無網絡沙盒中運行,分類器預先檢查 shell 指令和檔案編輯,離線監控器則審查團隊行動。
推薦理由:文章呈現多智能體處理長程證明任務的協作方式,並交代沙盒、即時分類器與離線監控如何構成安全邊界。
OpenAI 使用一款即將推出的網絡安全模型,建立 Linux 核心自主漏洞研究流水線;在 2026 年 10 月的一次運行中,系統動態重現 1,724 個漏洞,並生成 948 個可運作的本地權限提升 exploit。整次運行耗用 $1,213,430 API credits。人類安全研究員審核結果後,研究團隊已就關鍵漏洞提交數百份報告及修補程式。
推薦理由:文章比較整體 API 成本、歷史漏洞賞金與 kernelCTF 案例,呈現研究團隊衡量自動化漏洞研究資源投入的方式。
一項刊載於 arXiv 的研究報告,污染 0.1% 預訓練資料即可在 AI Agent 植入可觸發遠端程式碼執行(RCE)的後門。研究團隊從零預訓練 0.6B、1.7B 及 4B 參數模型,再進行標準後訓練;4B 模型的攻擊成功率約 92%,而污染比例低至 0.0005% 時仍可觸發攻擊。
推薦理由:研究把 CLI Agent 的後門風險延伸至預訓練資料來源,並公開程式碼與評測方法,為檢視資料供應鏈防護提供具體測試依據。
Axiom Math 發佈其稱為首個完整經電腦核查的有限單羣分類證明,歷時 24 日並包含約 43.1M 行 Lean 程式碼。工程師和數學家指揮數十個 AI Agent 完成形式化,Lean kernel 核查每一步邏輯。形式化過程揭出已刊文獻中 34 項值得注意的偏差,Axiom 表示正與羣論學者整理勘誤。
最新進展10月31日 07:25Axiom 完成有限單羣分類定理形式化
推薦理由:這次形式化把橫跨逾 500 篇論文的分類論證交由 Lean 核查,並揭出已刊材料中的多處偏差,呈現機械化驗證檢查大型數學成果的具體作用。
Epoch AI 測試發現,開放權重模型 GLM 5.3 可利用 Firefox 安全修補程式尚未推送至用戶的時間差,攻陷 2026 年 9 月 17 日至 10 月 26 日發布的六個版本。
推薦理由:研究將修補程式公開至更新送達用戶之間的時間差,連結到可自主執行的瀏覽器攻擊,並量化每個版本約 $1,000 的邊際成本。
ThinkingBox-Training 已在 GitHub 開放,將智能體完成任務後的資料庫終態可執行檢查用作後訓練獎勵。以 GRPO 對 Qwen3.8-27B 訓練 50 步後,在 ThinkingBox-Bench 的 507 項任務(每項測試 20 次)中,pass@1 由 51.70% 升至 60.78%,20 次全部成功的任務由 38 項增至 107 項。
推薦理由:文章展示如何把資料庫終態的可執行檢查轉成智能體後訓練獎勵,並按基礎策略成功率篩選任務,説明混合成敗回報如何為 GRPO 提供組內對比。
Anthropic 研究團隊以 Opus 5 紅隊代理測試 Claude Code Auto Mode 與 OpenAI Codex Guardian,發現生產環境監控器未能阻擋超過 55% 的攻擊。
推薦理由:研究以多種攻擊方式測試 Claude Code Auto Mode 與 Codex Guardian,並呈現跨上下文防護效果與延遲成本之間的取捨。
Microsoft Research 研究人員 Xinzhi Zhang 與合作者證明 KLS 猜想,解決了提出 31 年的高維幾何核心難題。研究團隊以人類主導的 AI 智能體流程探索逾 100 條候選路徑,再透過遞歸精化及控制累積誤差完成證明。另有獨立團隊提出證明,相關結果其後亦有 Lean 4 形式化驗證。
推薦理由:研究呈現研究者如何透過多輪篩選引導 AI 探索證明方向,並以遞歸精化和有界累積誤差完成 KLS 猜想的維度無關證明。
OpenAI、PerturbAI 與 Scripps Research 使用由 GPT‑Rosalind 驅動的數千個 AI 智能體,在 32 分鐘內分析數百萬個小鼠腦細胞的既有實驗數據,找出可供後續研究的生物學線索。
推薦理由:以小鼠腦細胞數據展示分佈式智能體如何串連基因擾動結果與科學文獻,並以單一智能體和盲評比較其分析廣度。
ALTK-Evolve 從智能體訓練任務中自動提煉行為指引並加入提示詞,令使用 gpt-4.1 的客服智能體在不更新模型權重下,於 τ²-bench 零售任務取得 67.5% Pass^4。
推薦理由:文章比較不同指引規模、零售與航空任務,以及 gpt-4.1、gpt-5.5 的結果,具體呈現提示詞記憶對智能體準確度、可靠性和成本的不同影響。
Google 開源 Harness²,透過任務級與改進級兩層遞歸,根據執行軌跡改良 Agent 運行腳手架並累積後續可用的經驗。在 WorkBuddy -Bench 上,GLM-5 配合 OpenCode 經單步改進後得分由64.2升至75.7,增加11.5分;項目目前支援 OpenCode 與 Codex。
推薦理由:文章拆解 Harness² 如何以執行軌跡對照和跨任務經驗庫改進 Agent 腳手架,並列出 WorkBuddy -Bench、JobBench 與 LAB 的實測結果。
Anthropic 發佈報告稱,至 2026 年 8 月,員工部署的交互式 AI 智能體工作時長達人類員工的 6 倍,初級技術職位招聘佔比則由 27% 降至 9%。
推薦理由:報告並列智能體工時、工程師程式碼產出與初級職位招聘數據,呈現 AI 提升產出之餘,如何改變團隊分工和招聘標準。
Google Research 分享三項研究,探索以 AI 智能體連接計算設計與濕實驗室實驗,涵蓋 VERID 實驗室數碼孿生、適配體閉環設計及從頭設計蛋白質結合體。適配體設計經三輪迭代後,兩個蛋白質靶標的確認命中率分別達 33.5% 和 42.1%;蛋白質結合體流程以局部結合口袋裁切,將每輪計算加速逾八倍,並取得個位數納摩爾親和力。研究流程包括模擬驗證、序列生物安全篩查及人工授權與監督。
推薦理由:文章串連實驗室數碼孿生、適配體閉環測試與蛋白質結合體設計,呈現 AI 智能體如何依據實驗回饋修正設計,並連接計算探索與實驗驗證。
ProjectDiscovery 的概念驗證顯示,經修改權重的開放模型可藏有後門,觸發後透過工具呼叫外傳 .env 檔案及 SSH 金鑰。測試以 Qwen2.5-7B-Instruct 訓練 625 條資料,其中 125 條遭投毒;後門影響約 43M 個參數,未觸發時一般請求仍正常。文章建議限制編碼 Agent 權限、隔離網絡存取與命令執行,並核查外部模型的發布者、訓練資料及權重差異。
推薦理由:以 Qwen2.5-7B-Instruct 的概念驗證呈現模型後門如何藉工具呼叫外傳 .env 檔案與 SSH 金鑰,並整理編碼 Agent 的權限隔離做法。