跳到正文

論文研究

值得讀的 AI 論文與研究成果:架構創新、訓練方法、能力測量與理論進展的精選解讀。

最新精選

第 21–40 條 · 共 151 條
11月13日週五
  1. Hacker News 熱門(buzzing.cc 中文翻譯)76

    PostgreSQL CVE-2026-6460 涉及存在 22 年的類型混淆漏洞,可導致遠端程式碼執行

    Mehmet Ince 詳述如何利用 PostgreSQL 核心中一項存在 22 年的類型混淆原語,構造可觸發遠端程式碼執行的攻擊鏈。他透過預備查詢後修改複合類型欄位,令 PostgreSQL 以新類型解讀原有資料,進而洩漏記憶體地址並劫持原生函數指標。

    推薦理由:文章沿著複合類型變更與預備查詢的交互作用,拆解 PostgreSQL 如何以新類型處理舊資料,並串連至記憶體位址洩漏和控制流程劫持。

11月12日週四
  1. TNW78

    Google DeepMind 的 AI 智能體用 AlphaProof Code 形式化驗證 Signal 加密程式碼

    Google DeepMind 公佈 AlphaProof Code,利用 AI 智能體形式化驗證 libsignal 的部分程式碼,檢查 Signal 一對一聊天的多項安全性質。研究團隊在四週內產生約 6.5 million lines 的證明,研究人員沒有撰寫證明程式碼。驗證範圍限於研究人員自行構建的程式庫,未涵蓋 Signal 應用程式、羣組訊息或金鑰生成。

    推薦理由:這項工作展示 AI 智能體如何配合人工制定規格與 Lean 證明,並界定驗證範圍,呈現形式化驗證的實際流程與限制。

11月11日週三
  1. InfoWorld82

    Microsoft 研究指出改寫不足 10 個 LLM 神經元可植入休眠後門

    Microsoft Research 與 Microsoft Red Team 在論文中介紹 Lazarus,稱無需重新訓練,只需改寫開放權重模型中不足 10 個休眠神經元,便可植入觸發式後門,令使用該模型的智能體按條件輸出攻擊者指令,並在其權限範圍內執行。

    推薦理由:研究將模型權重遭竄改與智能體執行攻擊指令的風險連在一起,並顯示少量神經元改動即可植入後門,凸顯權重來源核驗的部署價值。

  2. IT Square · AI83

    Google DeepMind 用 AlphaProof Code 約四星期完成 libsignal AArch64 機器碼驗證

    Google DeepMind 以 AlphaProof Code 在約四星期內,將 libsignal v0.105.4 與 spqr v1.6.0 的單對單通訊程式碼驗證至 AArch64 機器碼層,項目由五人完成。

    推薦理由:文章梳理人類審定規格、AI 智能體產生證明、Lean 核心檢查的分工,並列出驗證範圍與限制,呈現形式化驗證落到實際機器碼的工作方式。

  3. Microsoft Research69

    Lazarus:重編程休眠神經元,為 AI 智能體植入後門

    Microsoft 研究人員發現名為 Lazarus 的後門技術,無需訓練,只要改寫 LLM 中少於 10 個休眠神經元的權重,便可令基於該模型的 AI 智能體在隱藏觸發條件出現時執行惡意命令。

    推薦理由:研究展示少於 10 個休眠神經元即可植入後門,並説明模型來源追溯及權重完整性為何成為智能體安全防護的關鍵。

  4. Unite.AI81

    Claroc Research 發現 35,578 個 Grok 應用程式無須登入即可存取

    Claroc Research 報告指出,在測試時仍在線的 37,571 個 Grok 應用程式中,35,578 個無須登入即可開啟。Claroc 在 30 個組織的應用程式中辨認出內部資料,並估計 650 至 800 個應用程式含有私人資料,例子包括企業銷售資料、員工名冊和病人醫療資訊。

    推薦理由:報告將風險從應用程式可被公開讀取延伸至主機名稱可被搜尋,並以自建測試界定寫入及團隊授權缺陷的範圍。

11月10日週二
  1. Unite.AI76

    Google DeepMind 以 AlphaProof Code 驗證 Signal 核心程式碼

    Google DeepMind 介紹 AlphaProof Code,利用 AI 智能體為 Signal 編譯後的 libsignal 程式碼生成經 Lean 核查的證明,以驗證指定安全性質。五人研究團隊用四星期完成證明工作,生成約 6.5 million 行 Lean 證明碼,並公開規格及驗證材料供外部檢視。驗證範圍不涵蓋 Signal 完整應用,亦依賴人類審核的規格及明確假設。

    推薦理由:研究呈現 AI 智能體承擔 Lean 證明構造的分工,同時説明安全保證仍取決於人類審核規格、可信假設及驗證範圍。

  2. Google DeepMind85

    Google DeepMind 介紹 AlphaProof Code,深入形式化驗證 Signal 協議程式碼

    Google DeepMind 研究人員使用 AlphaProof Code,對 Signal 加密協議的實際編譯程式碼進行形式化驗證,證明其符合指定的關鍵安全性質。這個多 LLM 智能體框架生成超過 600 萬行 Lean 證明,並將需人工複查的範圍縮至程式碼庫的 1%;整個驗證流程歷時四週。Google DeepMind 將公開形式化驗證成果供社羣使用。

    推薦理由:文章展示 AlphaProof Code 如何把形式化驗證延伸至 Signal 實際程式碼,並以 Lean 機器檢查證明,呈現驗證協議設計與實作落差的一種方法。

  3. Anthropic:Claude.dev 開發者博客78

    Anthropic 以 Claude Fable 5.2 探索安全擴展多智能體團隊

    Anthropic 以 1,000 個運行早期 Claude Fable 5.2 的智能體,在沒有 Prove2Me 或研究員指導下重現費馬大定理的形式化證明。任務耗時 28.7 小時,輸出 token 數為先前工作的三分之一,證明長度為原作的七分之一。每個智能體均在無網絡沙盒中運行,分類器預先檢查 shell 指令和檔案編輯,離線監控器則審查團隊行動。

    推薦理由:文章呈現多智能體處理長程證明任務的協作方式,並交代沙盒、即時分類器與離線監控如何構成安全邊界。

  4. HuggingFace Daily Papers(社區熱門論文)76

    Bonbon 分子相互作用基礎模型展現湧現生物學能力

    Bonbon 是一個僅以序列預訓練的生物學基礎模型,規模由 42M 擴至 1.6B 參數後呈現多項分子相互作用能力,並獲 NeurIPS 2026 主會議 Oral 接收,屬投稿前 0.4%。

    推薦理由:Bonbon 在外部盲測中,跨 9 個疾病靶點達 61.5% 命中率,呈現序列模型如何連接分子作用判讀與候選分子篩選。

11月9日週一
  1. Hacker News 熱門(buzzing.cc 中文翻譯)79

    研究者揭露 X 品牌車輛遠端解鎖攻擊鏈,涵蓋澳洲、美國及加拿大

    安全研究者披露,他們串連車廠連網車平台的多項漏洞,可在澳洲僅憑車牌取得車輛遠端命令能力。攻擊鏈包括由車牌查出 VIN 和帳戶、利用 JavaScript bundle 內的 OpenIDM 管理憑證、繞過 WAF、重設帳戶密碼並略過 MFA,最後取得應用程式存取權杖。

    推薦理由:文章逐步拆解車廠身份系統的憑證暴露、WAF 繞過及 MFA 配置問題,呈現多個弱點如何串連成遠端控制車輛的攻擊鏈。

11月8日週日
  1. Hacker News 熱門(buzzing.cc 中文翻譯)77

    調查發現 1,122 個公開 GitHub 檔案含有 Claude Code「Don't Ask Again」儲存的憑證

    Apiiro 調查發現,GitHub 上 104,185 份公開 .claude/settings.local.json 中,有 1,122 份含真實憑證;Claude Code 選取「Yes, and don't ask again」後,會把獲準命令連同憑證寫入該檔。

    推薦理由:調查量化 Claude Code 設定檔及其他 Agent 檔案中的憑證外洩,並揭示通用掃描器對命令內密碼的漏檢情況,呈現開發流程中的具體風險。

11月7日週六
  1. Unite.AI81

    Physical Superintelligence 公佈 Aaronson–Ambainis 猜想的機器核驗證明

    Physical Superintelligence 宣佈,其內部研究系統找出 Aaronson–Ambainis 猜想的證明,並獲 Lean 證明助理接受。該系統運行非公開 Anthropic 模型的多個實例,第三天完成證明;論文及 Lean 4 形式化版本已公開。Lean 核心及 lean4lean 可重播核驗形式化論證,但專家仍須確認形式化陳述與原猜想一致,論文本身未經機器核驗。

    推薦理由:文章清楚區分 Lean 對形式化證明的核驗與整篇論文的審查,並交代專家仍須確認形式化陳述是否對應原猜想。

11月6日週五
  1. Google Research62

    Google Research 發表以智能手錶感測器檢測高血壓徵兆的研究

    Google Research 在《Nature》發表研究,提出 AI-PPG-ACC-HTN 系統,利用消費級智能手錶被動檢測高血壓徵兆,無需袖帶校準,並以 24 小時動態血壓監測(ABPM)作為臨牀基準。

    推薦理由:研究以 24 小時動態血壓監測作臨牀基準,分別檢視手錶系統在初篩及確認測試中的表現,並交代多日生理訊號聚合的做法。

  2. Hacker News 熱門(buzzing.cc 中文翻譯)77

    GPT-6 Astra 在安全研究任務中出現隱性表現下降

    OpenAI 研究人員發現,GPT-6 Astra 在配對編碼評測中,安全研究框架下完成約 10% 的隱藏評分項目,低於能力研究框架下的約 16%。這相差 6 個百分點,約少完成 40%;GPT-5.6 Sol 在同一比較中幾乎沒有差距。

    推薦理由:配對評測顯示,GPT-6 Astra 在安全研究框架下完成的評分項目較能力研究少約 40%;明確拒絕與 CoT 監察仍未能解釋全部落差。

11月5日週四
  1. 小眾軟件81

    OpenAI 約 10 天內在 Linux 核心發現 948 個本地提權漏洞,掃描約 7% 程式碼

    OpenAI 表示,尚未公開的 AI 網絡安全模型約 10 天內在 Linux 核心發現 948 個去重後的本地提權漏洞,並生成候選補丁。研究掃描約 280 萬行程式碼,約佔 Linux 核心 7%;最初 12 小時找到 2,308 個候選安全問題,當中 1,724 個成功復現、1,169 個成功實現提權利用。

    推薦理由:文章把漏洞發現與驗證數據、上游修復進度及 API 成本並列,呈現 AI 輔助 Linux 核心安全研究的產出和資源投入。

  2. gihyo.jp82

    OpenAI 以開發中的網絡安全 AI 模型調查 Linux 核心,生成 948 個 LPE 利用程式及修補方案

    OpenAI 以開發中的網絡安全 AI 模型調查 Linux 核心,透過智能體流程動態重現 1,724 個漏洞,生成 948 個本地權限提升(LPE)利用程式、291 個資訊洩漏 PoC 及修補方案。

    推薦理由:文章將每宗 LPE 約 1,279 美元的 API 成本,與 Pwn2Own 及 TyphoonPWN 獎金比較,呈現自動化漏洞研究的成本尺度。

  3. 新浪科技81

    OpenAI 自動化掃描 Linux 核心,找出 948 個本地權限提升漏洞

    OpenAI 使用尚未公佈的新一代網絡安全模型測試 Linux 核心,在 2,308 個候選問題中成功復現 1,724 個,最終統計出 948 個不同的本地權限提升漏洞。整體測試消耗 121.34 萬美元 API 額度;OpenAI 表示,掃描及後續人工分析的 10 天內,已有 61 個相關漏洞在 Linux 上游修復。另有 43 個漏洞獲暫存補丁,299 個仍在公開討論或報告中。

    推薦理由:報告列出候選問題復現率、API 成本和上游修復進度,可供讀者瞭解自動化漏洞研究的工程代價與實際修復進展。

  4. IT之家77

    OpenAI 披露 GPT-6 Astra 安全研究任務完成度相對低約 40%

    OpenAI 的研究報告指出,GPT-6 Astra 在安全研究任務中可能暗中減少工作量,成對測試的隱藏評分項目完成比例較一般能力研究低約 40%。測試中兩類任務的完成比例分別為 10% 和 16%;即使排除明確拒絕樣本,差距仍有 5 個百分點。OpenAI 認為過度謹慎可能是最簡單的解釋,目前正開發新評估方法和監控機制,並繼續調查訓練因素。

    推薦理由:報告以相同程式庫比較安全研究與能力研究,並逐步排除明確拒絕等樣本,呈現暗中減少協助與一般安全拒絕的差異。