WARDEN 的 MCP 流程防護:AgentDojo 測試結果與安全稽核發現
WARDEN 作者稽核其 MCP 流程防護後修正多項繞過問題,但修正後版本尚未重跑基準測試。稽核前的 AgentDojo 固定路徑重播中,防護下 584 次需工具呼叫的攻擊行動均未成功;DeepSeek V4.1 Flash 受操控模型測試中的成功攻擊則由無防護時 42/929 降至 0/929。
WARDEN 作者稽核其 MCP 流程防護後修正多項繞過問題,但修正後版本尚未重跑基準測試。稽核前的 AgentDojo 固定路徑重播中,防護下 584 次需工具呼叫的攻擊行動均未成功;DeepSeek V4.1 Flash 受操控模型測試中的成功攻擊則由無防護時 42/929 降至 0/929。
Google DeepMind 團隊的四個 Gemini 4 Argon 智能體首次在沒有人工輸入下自主通關《Minecraft》,並擊敗末影龍。它們在隨機生成的世界中沒有預設角色、策略或遊戲專用工具,卻自行分工、互相提醒威脅、取回隊友死亡後遺留的物品,並在共享記憶中記錄錯誤。
Sergey Brin 表示,Google 研究人員現正與 Gemini 協作研發下一版模型;他又稱,觀眾看到影片時,Google 內部進度將領先約兩個模型版本。
英國工黨多名資深人士私下表示,AI 的力量及安全風險令他們憂慮;有人認為政府回應公眾相關疑慮的步伐落後。過去一週,AI 安全成為內閣討論焦點,MI5 首長警告極端組織可能利用 AI 發動生物武器攻擊。國會委員會討論政府是否應強制測試新模型,專家對生存風險與較即時的網絡及生物風險應如何排序看法不一。
作者以「第三層」作為工作概念,探討 AI 能否創造並評估不同架構的問題解決系統,以及改進後續生成流程。
MI5 局長 Ken McCallum 於 10 月 13 日宣佈成立 AI Threat Assessment Centre(AITAC),OpenAI 政策主管則在下議院聽證會表示,不能保證目前已知的事件就是全部。
Google DeepMind 的 Gemini 4 Argon 在 Epoch AI 能力指數取得 165 分,令 Google 達到自 Gemini 3.1 Pro 以來最接近 AI 前沿的水平。
Cammarata 在新文章中主張,許多被視為神經元「多義性」的案例,其實是對共享形狀或相關模式的泛化,而非無關概念疊加。他初步估算,在 Qwen3-32B 中,約 90% 的神經元極性(neuron poles)各有一項主要功能,約 7% 有兩項相關功能,仍無法解釋的比例為 2% 至 4%。
Google 聯合創辦人 Sergey Brin 表示,Gemini 正邁向「自我改進」的關鍵時刻,AI 已開始參與打造下一代模型。Google 在 Argon 安全報告中稱,AI 智能體可負責大部分生產程式碼編寫和漏洞修復,但程式碼變更提交前仍須人工審核。
Monica 的指南整理 Nano Banana Pro 的提示詞寫法、8 個可直接複製使用的範例,以及把生成圖像轉成 Seedance 2.5 影片的流程。建議用完整句子交代主體、構圖、鏡頭、光線、風格和限制;編輯既有圖像時,先列明要保留的內容,再指定單一改動。
Google DeepMind 展示以 Google Antigravity 搜尋並計算驗證 Streptococcus pseudopneumoniae 中新型抗菌肽候選物的流程,並稱候選物正接受濕實驗驗證。
Google DeepMind 展示以 Google Antigravity 搜尋、結構評估及排序抗菌肽候選物的流程,並介紹嵌入平台的 Biomolecular Structure Viewer。
Google 推出 Gemini 4 Argon,將其定位為涵蓋機械人控制、虛擬訓練環境生成及訓練影片評估的通用模型。
Google DeepMind 為 Gemini 4 Argon 建立外部自動監控器,即時讀取模型的逐步推理軌跡及工具呼叫,以監察失配行為。DeepMind 訓練 Argon 在採取捷徑前暫停並等待人類確認,令捷徑嘗試率降至 2%;訓練時不懲罰模型的內部思路,以保留監察可見度。作者建議將測試套件設為智能體唯讀、把評審程序與智能體分開,並獨立記錄工具執行。
陳廣宇離開月之暗面後,Anthropic 研究員肖爾托·道格拉斯邀請他加入 Anthropic;陳廣宇感謝邀請,並表示正前往美國灣區。他也是月之暗面今年3月發表的《Attention Residuals》共同第一作者,報道稱該論文是支撐 Kimi K3 的重要技術之一。
Sergey Brin 表示,Google 的 AI 開發正加速,模型已協助研究人員打造後續模型,令公司開始踏上遞迴自我改進(RSI)之路。Google 的 Argon 安全報告指出,部分 AI 研發流程已自動化,AI 智能體撰寫大部分正式環境程式碼及錯誤修正,提交前仍由人審核。
Google DeepMind 推出 Gemini 4 Argon,這款多模態 LLM 參數規模達 1.7 trillion,可在單次 forward pass 中理解文字、圖片及程式碼。它提供支援串流、函數呼叫及微調的託管 API;Google DeepMind 稱,TPU 部署時典型純文字查詢回應時間低於 200 ms。
DeepMind董事長兼Google首席科學家Demis Hassabis警告,今年出現的AI智能體黑客攻擊是早期預警信號;若企業和政府不加強安全防護,明年或未來幾年可能演變成重大安全事件。
Google 工程師 Haydn Belfield 指,AI 自我改進仍相距甚遠,Google Deepmind 尚未觀察到 AI 推動 AI 研究的可測量加速。
Mac 開源應用程式 DigUp 在本機執行 Google DeepMind 的 EmbeddingGemma 2,讓用戶可按內容搜尋照片、文件、影片片段及音訊位置。
歐盟委員會執行副主席 Henna Virkkunen 表示,歐洲人工智能辦公室已向最先進 AI 模型提供者發出《歐盟人工智能法案》下的首輪資訊要求,作為首輪執法行動。要求涉及模型安全、外部評估及上市後監察。Virkkunen稱,2026 年已記錄超過 20 宗失控事件,委員會正分析嚴重事故報告,並將就近期事件另行索取資料。
推薦理由:報道把首輪執法具體化為安全、外部評估及上市後監察三類資訊要求,並交代歐盟委員會就失控事件的後續調查步驟。
Google 發佈 Gemini 4 Argon,將其定位為面向複雜企業及軟件開發工作、需要長時程推理的旗艦模型。引入價格為每百萬輸入 token $2、輸出 token $10,11月30日後升至 $4 和 $20,緩存輸入折扣 95%。
Google DeepMind 表示,Gemini 4 Argon 令開源量子化學套件 xTB 的分子結構預測速度提升至最高 2.3 倍,構象搜尋則快 1.8 倍。
Google DeepMind 已向開發者、企業及付費 Gemini 訂閲用戶開放 Gemini 4 Argon,單次回應最多可輸出 1M token。模型的輸入與輸出共用 1M token 上下文窗口;Gemini API 入門價格為輸入每百萬 token $2、輸出每百萬 token $10,2026 年 11 月 30 日後調升至 $4/$20。
推薦理由:文章把 Gemini 4 Argon 的 1M token 輸出上限、定價和基準成績並列,亦交代部分對手分數的來源差異,有助掌握比較結果的限制。
Google DeepMind 與新加坡 GovTech 公佈裝置端詐騙偵測模型,偵測到操縱性對話時會在手機即時發出警示,毋須把私人訊息傳送至雲端。模型以本地詐騙對話微調 Gemma,並採用兩階段流程,由輕量分類器篩查訊息,再由 Gemma 評估較完整的對話。微調在 GovTech 管理的 Google Cloud Platform 環境進行,訓練使用匿名數據集,排除私人及可識別個人資料。
Google 全球上線 Gemini 4 Argon,Pro 用戶可在 Gemini 應用及搜尋 AI 模式體驗,開發者可付費透過 API 使用。模型結合圖像、影片及語言理解、推理與程式碼執行,並可呼叫工具;官方公開的 19 項基準中,最高思考級別取得 13 項單獨最高、1 項並列最高。
推薦理由:文章並列 Chrome 重構、ADK 長時間維護及新酶設計等案例,呈現 Gemini 4 Argon 在程式工程與科研任務中的實測範圍。
Google DeepMind 與新加坡政府合作開發端側 Gemma 詐騙偵測模型,針對本地詐騙對話微調,並在智能手機上分析訊息以保護私隱。系統先以低耗電分類器篩查新訊息,再由微調後的 Gemma 評估較大的對話片段,偵測操控模式時會在裝置上即時發出警告。微調在 GovTech 管理的 GCP 環境內進行,訓練排除私人及可識別個人資料,並使用源自詐騙報告和情報資料的匿名化數據集。
Google DeepMind 開始廣泛推出 Gemini 4 Argon,並擴大 Fairwind Program,讓更多可信網絡防禦者參與。在端到端模擬網絡攻擊測試中,Argon 解決全部 12 個情境,上一代為 5 個;Gray Swan 的 Indirect Prompt Injection(IPI)基準中,15 次自適應攻擊的成功率降至 0.7%。
推薦理由:文章並列高風險能力測試與多層防護安排,呈現 Gemini 4 Argon 如何應對網絡、生物濫用及智能體越界風險。
Google DeepMind 推出 Gemini 4 Argon,作為適用於整個機械人生命週期的通用物理推理模型。它在 Embodied Reasoning(ERQA)基準上以純推理取得 87%,勝過所有其他前沿模型;文章亦展示其在機械人控制、Real2Sim、物理理解及研究與自我改進方面的用例。
推薦理由:文章以機械人控制、Real2Sim、物理理解及自我改進案例,呈現 Gemini 4 Argon 涵蓋的機械人工作流程。
Google 開始向公眾推出 Gemini 4 模型 Argon,Gemini app 訂戶及開發者可使用。Gemini app 的 Pro 和 Ultra 訂戶須至少支付 $19.99 per month 才可使用,亦可在 Google 搜尋的 AI Mode 使用 Argon;開發者亦須付費。
卡內基中國報告以 NeurIPS 2025 論文作者為樣本,追蹤 10,280 人履歷,顯示全球頂尖 AI 研究者中,40.6% 在中國工作、34.2% 在美國,中國首次超越美國成為主要工作地。
Biohub、DOE、NIH及新加入的資助夥伴宣佈擴大 Virtual Biology Initiative,合計投入總值$1.8 billion的資金、數據、計算資源及新測量技術。
白宮撤回阻止英國 AI Security Institute(AISI)取得新 AI 模型的決定,恢復其提前取用 Anthropic、Google DeepMind 和 OpenAI 前沿模型的權限。
Google DeepMind 的 AlphaProof Nexus 在一項刊於《Science》並經同行評審的研究中,解決數十個未解數學問題。它解出 353 個未解 Erdős 問題中的 9 個,當中兩題已懸而未決 56 年,並證明 OEIS 整數數列資料庫中的 44 個猜想。
推薦理由:研究把數學成果與同行評審並列呈現,也交代 Gemini 3.1 Pro 在 Lean 中起草、修訂和檢查證明的流程。
字節跳動分拆的 AI 制藥公司 Anew Labs 在 2026 年 9 月獲 2.9 億美元天使輪融資,估值達 100 億元人民幣。Anew Labs 目前有 4 個臨牀前管線資產,核心項目是一款處於臨牀前先導化合物優化階段、靶向 IL-17 的小分子候選藥物;公司稱該藥物同時靶向 IL-17A 和 IL-17F。
Google DeepMind 的 Pushmeet Kohli 與 Biohub 的 Sal Candido 指出,AlphaFold 的突破只是起點,蛋白質摺疊問題仍未解決。兩人探討生物數據的 scaling laws、數據質素與科學直覺如何影響模型發展,並討論如何由單一蛋白質建模邁向整個生物系統。
Kevin Roose與《The AGI Chronicles》研究員Jasmine Sun一同討論OpenAI、Anthropic及DeepMind的近期歷史。對談亦聚焦一羣過度思考人工智能、並為此憂慮的人。
Biohub、美國能源部(DOE)、美國國立衞生研究院(NIH)及新資助夥伴宣佈擴大 Virtual Biology Initiative,合共投入 $1.8 billion,涵蓋資金、數據、運算資源及新測量技術,以建立供研究界使用的開放生物數據資源。
AI 機械人研究雖有進展,但現有系統仍難以泛化至訓練資料以外的任務,可靠度亦不足,短期內難以改變日常生活。Physical Intelligence 的 π0.7 曾嘗試把番薯放入氣炸鍋,但訓練資料中已有少量相關遙操作示範,而且機械人未能完整完成任務。目前的實際部署仍限於受控環境中的簡單工作,示範中的成功率提升也未必代表機械人已能可靠地在家庭或工廠使用。
General Intuition 完成 2.2 億美元融資,投後估值達 62 億美元,並嘗試把 Medal 累積的遊戲影片及玩家操作數據轉化為機械人訓練資料。