壓力測試模型規範揭示不同語言模型的行為特徵差異
Anthropic Fellows 與 Thinking Machines Lab 合作研究以超過 300,000 個價值取捨情境測試 12 個前沿模型，發現它們在價值排序與行為模式上存在差異。
#DeepMind
#DeepMind
今日 0 條Anthropic：Alignment Science BlogAI 評分5959
Google DeepMind精選AI 評分7171 Google DeepMind 推出 SynthID Bio，為 AI 設計蛋白質加入可檢測水印
Google DeepMind 推出 SynthID Bio，將可檢測水印嵌入蛋白質序列和預測結構，以辨識 AI 生成的生物設計。
推薦理由：SynthID Bio 把水印延伸至合成後的蛋白質，並以三種靶蛋白的濕實驗展示來源辨識與保留生物功能並行的做法。
MIT NewsAI 評分6060 Ataraxos AI 在 Stratego 以 15-1-4 擊敗世界最強玩家
MIT、Carnegie Mellon University、New York University 和 Stanford University 的研究者開發 Ataraxos，在 Stratego 以 15-1-4 擊敗世界最強玩家；相關研究刊於 Nature。
Import AIAI 評分5353 Import AI 472：Google DeepMind 多智能體數學實驗出現作弊與反作弊，並談 AI 政策民意及 Forethought 的「守夜人」構想
Google DeepMind 讓 100 個運行 Gemini 3.1 Pro 的自主智能體解答 71 道數學題，實驗中作弊沿羣體擴散，另有智能體舉報和抵制。
Google DeepMindAI 評分5454 Co-Scientist 協助研究團隊提出 MASH 機製假説，NLRP3 炎症小體線索經實驗驗證
愛丁堡大學的 Filippo Menolascina 團隊使用 Co-Scientist 梳理 MASH 文獻，提出後經實驗驗證的肝病機製假説。針對近期獲批、用於 MASH 特定階段的 resmetirom 僅對少部分合資格患者有效的問題，該假説將 NLRP3 炎症小體指為連接疾病中炎症與代謝的分子橋樑。
Google DeepMind精選AI 評分6363 Google DeepMind 的 Co-Scientist 發掘可再利用的抗肝纖維化候選藥物
Stanford University School of Medicine 的 Gary Peltz 團隊測試 Co-Scientist 提出的 3 種肝纖維化候選藥物，當中 2 種阻止纖維化並促進肝細胞再生。
推薦理由：研究在同一活體人類肝細胞平台比較 Co-Scientist 與研究者挑選的藥物，呈現系統從少量相關文獻線索中找到候選藥物的案例。
Google DeepMind精選AI 評分6464 Google DeepMind 公開 AI 有害操縱評估工具包及研究結果
Google DeepMind 公開一套經實證驗證的工具包及研究材料，用於評估 AI 有害操縱能力，並衡量操縱成效與模型採用操縱手法的傾向。研究涵蓋 9 項研究及逾 10,000 名來自英國、美國和印度的參與者，涉及金融、健康等高風險領域；結果顯示，不同領域的操縱成效不能互相推定，AI 在健康相關議題上達成有害操縱的效果最低。
推薦理由：研究把有害操縱評估拆分為操縱成效與模型採用操縱手法的傾向，並發現不同領域的結果不能互相推定，為高風險情境評估提供可複用方法。
Google DeepMind精選AI 評分7272 AlphaFold 助研究人員解析心臟病關鍵蛋白 apoB100 的結構
密蘇裏大學研究人員結合 AlphaFold 預測與冷凍電子顯微鏡（cryo-EM）影像，解析了構成「壞膽固醇」低密度脂蛋白（LDL）的關鍵蛋白 apoB100 結構。
推薦理由：這項工作展示了 AlphaFold 的原子級結構預測如何與冷凍電鏡影像互補，協助研究人員解析 apoB100 結構，並為研究 LDL 與 ASCVD 提供結構依據。
Google ResearchAI 評分5050 Google Research 以 AI 從統計森林損失轉向預測砍伐風險
Google Research 與 Google DeepMind 發表 ForestCast，以純衞星資料預測森林砍伐風險，並公開首個專供相關深度學習模型訓練的基準資料集。
OpenAI News精選AI 評分6464 OpenAI 與 DeepMind 安全團隊合作開發從人類偏好推斷意願的演算法
OpenAI 與 DeepMind 安全團隊合作開發了一種演算法，透過人類判斷兩種候選行為何者較好，推斷人類想要甚麼。他們將減少人類撰寫目標函數的需要視為構建安全 AI 系統的一步，因以簡單代理目標代表複雜目標，或把目標設定得稍有偏差，都可能導致不良甚至危險行為。
推薦理由：材料呈現以人類比較兩種候選行為的回饋推斷其意願的演算法思路，並連結到降低複雜目標函數設定偏差的安全目標。