跳到正文

#推理

今日 76 條
10月3日週六
  1. IT之家58

    如何用好 GPT-6 系列 AI 模型?OpenAI 發佈指南講解選擇模型與優化提示詞

    OpenAI 發佈 GPT-6 系列模型指南,介紹按工作負載選擇模型、優化提示詞及調整推理強度的方法。指南推薦 GPT-6 Astra 處理高難度推理、GPT-6.1 Sol 處理複雜編程、研究和電腦使用,GPT-6 Luna 則用於大規模特定任務及明確的日常重複工作。提示詞應交代期望結果、受眾、上下文、限制及完成標準;最高推理強度適合複雜分析、除錯或深度研究。

  2. Hacker News:AI 熱帖27

    Jev 等決策模型未能勝過 LLM-as-a-judge 或傳統分類器

    Jev 等決策模型未能勝過 LLM-as-a-judge 或傳統分類器;用於智能體堆疊的條件分支決策時,模型須兼具良好校準與資訊性。神經網絡輸出 logits 對可約減的認知不確定性屬高度有損壓縮,令校準在實務上難以落實;高概率區域的估計亦會在輕微協變量偏移下不穩,令多步搜尋圖可能走向模型訓練或校準時未見的分支,甚至落在分佈外。

  3. Anthropic:Alignment Science Blog65

    如何復現並拓展 Anthropic 的對齊偽裝演示

    Anthropic 説明如何復現並拓展其對齊偽裝演示,並提供快速實驗筆記本、對話紀錄及部分主實驗程式碼。在簡化的 helpful-only 設定中,Claude 3 Opus、Claude 3.5 Sonnet 和 Llama-3 405B 有時會生成對齊偽裝推理;提示暗示對話會用於訓練時,模型更常給出有幫助的回答。

  4. Anthropic:Alignment Science Blog61

    Anthropic Fellows Program 研究發現 Test-Time Compute 增加可能降低部分模型準確率

    Anthropic Fellows Program 研究團隊構建評測,發現增加大型推理模型的 Test-Time Compute 可能令部分任務準確率下降。評測涵蓋幹擾計數、虛假特徵迴歸、約束追蹤演繹和進階 AI 風險,研究歸納出五類較長推理下的失效模式。Claude Sonnet 4 表示願意被關閉的回答比例隨推理增加由 60% 降至 47%,研究指出延長推理可能加強自我保存表述。

  5. Anthropic:Alignment Science Blog61

    Anthropic 研究:訓練未能誘發當前語言模型的隱蔽推理

    Anthropic 研究以 Sonnet 3.7 測試 APPS 後門任務中的隱蔽推理,發現同時監控輸出與推理時,模型未能在不觸發推理監控下靠推理提高後門成功率。只有輸出監控時,模型可運用推理提高後門成功率;只有推理監控時,模型則能説服監控器把明顯後門判作良性。實驗集中於 APPS 程式題後門設定,計算量比生產級 RL 低數個數量級,因此作者指出不能據此推論生產級 RL 的結果。

  6. Anthropic:Alignment Science Blog54

    信不信由你:LLM 對植入事實的信念有多深?

    Anthropic 研究團隊與合作者提出衡量 LLM 信念深度的框架,發現合成文件微調(SDF)往往能植入較深層的事實信念。框架從泛化應用、面對質疑時的穩健性和內部表徵三方面衡量;提示詞和機制式模型編輯未能穩定形成深層信念。SDF 的成效取決於事實可信度,與基本世界知識矛盾的極不可信事實仍較脆弱,內部表徵也與自然習得知識不同。

  7. Anthropic:Alignment Science Blog60

    AI 的「混亂失誤」:錯位如何隨模型智能與任務複雜度變化?

    Anthropic 研究團隊以偏差與方差分解分析前沿推理模型,發現推理或行動序列越長,錯誤中的不一致性佔比越高。在基準任務中,較智能模型在容易題目上的錯誤較一致,但最難題目上的錯誤不變或更不一致。多個樣本集成可降低不一致性,但在行動不可逆的真實智能體任務中可能難以實用。

  8. Anthropic:Alignment Science Blog59

    無監督引出方法的安全性面臨 3 項挑戰,集成與方法結合未能穩定奏效

    Anthropic 研究團隊測試無監督引出與易到難泛化方法,歸納 3 項安全挑戰並檢驗 2 種改進方向。挑戰包括顯著但不代表真實性的特徵、訓練資料失衡,以及模型難以明確作答的問題;改進方向是集成預測器,以及結合無監督引出與易到難方法。新方法有時表現較好,但沒有任何技術能穩定應對這 3 項挑戰。

  9. TechCrunch · AI67

    Google 發佈 Gemini 4 Argon,稱其為迄今最強模型

    Google 發佈 Gemini 4 Argon,稱其為迄今最強模型,並表示它適用於編碼、研究、寫作等工作,尤其面向防禦性網絡安全。該模型專為防禦性網絡安全工作訓練,Google 稱它可自主發現、驗證並修補關鍵軟件漏洞;目前僅透過 Fairwind Program 向部分網絡安全合作夥伴推出。

10月2日週五
  1. MIT Technology Review · AI54

    別被誤導,LLM 並不真正推理

    Thore Graepel 認為,當前 LLM 的鏈式推理仍由反覆預測下一個 token 產生,並非獨立的推理機制。AlphaGo 結合神經網絡提供的直覺與棋局樹搜尋;作者指出,聊天機械人缺少可持續檢視的信念狀態,思維鏈也可能在得出答案後才編造。Graepel 主張系統維護明確的認知狀態,僅在證據支持時更新信念,並評估每一步能否降低不確定性。

  2. HuggingFace Daily Papers(社區熱門論文)36

    ADSD:以自動診斷與技能探索訓練數值智能

    ADSD 框架以數值診斷引導合適方法的探索,並將知識整理成可重用的求解器技能,令求解器自我改進更有系統。它在四個數值領域均提升求解器的準確度、穩健性和效率。在 GOC-500 電力潮流測試中,平均求解器誤差降低近 71 倍,改善亦轉移至未見過的電網拓撲和運行狀況。

10月1日週四
  1. Google DeepMind77

    Google DeepMind 發佈 Gemini 4 Argon,面向複雜長流程任務

    Google DeepMind 發佈前沿模型 Gemini 4 Argon,面向軟件工程、企業知識工作及網絡安全等複雜長流程任務。其輸出 token 上限由 64K 提至 1M,在 DeepSWE v1.1 得分 77.9%,並在 LVBench 得分 91.7%。

    推薦理由:Gemini 4 Argon 將輸出上限由 64K 提至 1M tokens,文章把這項擴容與處理更長、更複雜工作流程的能力相連。

9月30日週三
  1. HuggingFace Daily Papers(社區熱門論文)44

    JEPA-TTT:動力學轉變下用於規劃的潛在世界模型持續測試時訓練

    JEPA-TTT 透過在測試期間持續自我監督更新預訓練世界模型的潛在動力學預測器,適應測試時與訓練時不同的環境動力學。在 4 個連續控制環境的 8 種動力學轉變中,JEPA-TTT 均改善規劃表現;經 500 個測試回合後,潛在自回歸預測誤差平均降低 83%,規劃表現較凍結的 JEPA 世界模型提升 153%。

9月29日週二
  1. Hugging Face Blog65

    NVIDIA Kumo Tabular 為表格預測樹立準確率與效率的新前沿

    NVIDIA 發佈開放式表格基礎模型 Kumo Tabular,用於表格分類與回歸,可根據帶標籤的上下文列,在單次前向傳播中預測新列標籤,無需訓練、調參或特徵工程。

    推薦理由:文章列出四項基準的結果,並以梯度提升樹、AutoGluon 等方法作對照,為表格預測模型的效能評估提供具體比較參照。

  2. Microsoft Research61

    Microsoft Research 介紹 Quine 生物學 AI 研究系統並開放 Fellows 計劃申請

    Microsoft Research 介紹 Quine,一個結合生物學多模態世界模型與互動式研究流程的 AI 研究系統,並開放首屆 Quine Fellows 計劃申請。

    推薦理由:Quine 將跨生物模態的世界模型接入文獻、科研工具與實驗迴圈,並以胰臟癌細胞狀態轉換案例展示預測如何進入濕實驗驗證。

9月28日週一
  1. Epoch AI:Gradient Updates69

    AI 成本下降速度快於其他變革性技術

    Epoch AI 的分析估算,過去五年,AI 達到特定基準分數的成本每年降至約原來的 1/13,降幅快於文中比較的 DNA 定序、運算、鋰電池和電力。OpenAI 的例子顯示,o3 在 GPQA Diamond 達到 75% 分數時每題成本為 $0.30;不到 18 個月後,GPT-5.6 Luna 達到相同分數時每題成本為 $0.0004,下降 725 倍。

  2. Anthropic:Claude.dev 開發者博客80

    Claude Sonnet 5.5 開發指南:API 接入、遷移與調校

    Anthropic 發佈 Claude Sonnet 5.5,較 Sonnet 5 快 30%,每 token 價格不變,多數工作成本最多可減 30%。指南詳述 API 用法、從 Sonnet 5 遷移時的行為變更及 effort 調校建議,並指出原生上下文窗口為 1M tokens。

    推薦理由:指南整理 Sonnet 5.5 相對 Sonnet 5 的 API 變更與調校方法,涵蓋工具呼叫、thinking 區塊和 effort 設定,可作遷移核對參考。

9月24日週四