模式匹配防護在變異攻擊下的表現:兩種智能體安全層的三項指標評估
作者以攻擊成功率、誤拒率及受攻擊時的完成率,評估兩種智能體安全層抵禦變異攻擊的表現。支援智能體的模式偵測器未能阻擋任何一類編碼載荷,每類 24 次測試均無一成功攔截;SQL 審批閘則阻止 84 次攻擊中的 83 次,但錯誤封鎖 13 條良性查詢中的 2 條。測試只使用模擬後端。
作者以攻擊成功率、誤拒率及受攻擊時的完成率,評估兩種智能體安全層抵禦變異攻擊的表現。支援智能體的模式偵測器未能阻擋任何一類編碼載荷,每類 24 次測試均無一成功攔截;SQL 審批閘則阻止 84 次攻擊中的 83 次,但錯誤封鎖 13 條良性查詢中的 2 條。測試只使用模擬後端。
商湯研究院、香港科技大學 MMLab、斯坦福大學及清華大學智能產業研究院的研究者提出 MT Forcing,以改善多輪圖像編輯中的畫質退化與內容漂移。SenseNova-U1.5 使用該方法後,第八輪指令遵循分數由 4.52 升至 9.17,內容一致性分數由 3.22 升至 7.68;畫質抗漂移分數則在八輪維持 4.20—4.35。其八輪幾何位移均值由 6.34 像素降至 0.74 像素。
Zyphra 推出 Zyphra Hierarchical Attention(ZHA),以樹狀索引器搜尋 KV cache,讓稀疏注意力的索引過程不再掃描整個上下文。
加州理工學院 Ralph Adolphs 團隊以不提供特質詞的多重排列任務,研究人們如何從面孔推斷性格,發現面孔印象可歸納為五個維度。實驗一涵蓋1,751名被試,實驗二涵蓋1,683名被試;兩個實驗均重現五維結構,而面孔的種族多樣性會影響偏見在印象中的呈現。
麻省理工學院 CSAIL 團隊提出「權重空間編程」,以 GPT-6 Astra 修改阿里雲 Qwen3.5-0.8B 的模型權重,令 MATH-500 準確率由 7.9% 升至 48.1%。方法只調整 0.016%(131072個)參數,繞過梯度下降與反向傳播;GSM8K 和 IFEval 成績亦顯著提升,且未新增模型固有知識。
Sketchpad 研究提出一項形式化方法:若模型每一步只讀取外部工作記憶體的有界視窗,驗證 runtime 會呈現的有限視窗集合,即可保證模型對任意長度輸入的算術精確性。
MIT CSAIL 研究人員提出「權重空間編程」,讓 GPT-6 Astra 直接修改 Qwen3.5-0.8B 約 0.016% 的權重,使其 MATH-500 成績由 7.9% 升至 48.1%。
Halley 是一套面向 AI 數據中心光學網絡的預測控制框架,透過預測故障及預先調度資源,在形式化保證下提升有效吞吐量。模擬顯示,若失去耗盡備用資源的時段,有效吞吐量由 65.2% 升至 76.5%;若只損失暗通道頻寬,則達 67.4%。在維持相同訓練量下,數據中心容量最多可減少 3.3–14.7%。
研究分析美國密歇根州兩個城鎮的定向網絡釣魚事件,指出攻擊者利用公開會議資料中的真實項目信息,偽造政府函件及電郵索款,攻擊成效關鍵在於公開資訊與社會工程學手法的結合。防範措施包括政府資訊分級治理、強化郵件認證、建立公眾核驗習慣,以及加強跨機構協作。
研究提出一套將基於 Attention 的 Transformer 蒸餾至 Mamba 類架構的兩階段方法,讓改編的 Mamba 不使用 Attention 區塊。
一項刊載於 arXiv 的研究報告,污染 0.1% 預訓練資料即可在 AI Agent 植入可觸發遠端程式碼執行(RCE)的後門。研究團隊從零預訓練 0.6B、1.7B 及 4B 參數模型,再進行標準後訓練;4B 模型的攻擊成功率約 92%,而污染比例低至 0.0005% 時仍可觸發攻擊。
推薦理由:研究把 CLI Agent 的後門風險延伸至預訓練資料來源,並公開程式碼與評測方法,為檢視資料供應鏈防護提供具體測試依據。
MIT CSAIL 團隊以「權重空間編程」測試 GPT-6 Astra 直接讀取和修改神經網絡權重,並修復 Qwen3.5-0.8B 的推理循環。在 50 次前向計算下,Astra 修改 131,072 個權重,佔總數 0.016%,令 MATH-500 成績由 7.9% 升至 48.1%,GSM8K 由 13.8% 升至 67.1%。
南洋理工大學 MMLab 與上海人工智能實驗室的研究者提出 PhysLDM,以隱空間擴散生成高保真可變形物體的完整仿真軌跡。模型以時空 VAE 壓縮軌跡,壓縮率最高達 78 倍;在 3 萬多個 Objaverse 物體生成的約 8 萬條仿真軌跡上訓練,平均重建誤差為 2.48 毫米。PhysLDM 可零樣本泛化至未見物體,並支援端到端及高階求導。
Zyphra 提出 ZHA(Zyphra Hierarchical Attention),以階層樹逐層搜尋每個查詢相關的 token,並在合適的 top-p 路由閾值下實現次二次複雜度。
Redwood Research 一項由 Aghyad Deeb 主導的新研究發現,在評分器可見的少數智能體環境中,GPT-5.6 Sol、GPT-5.5 及 OpenAI o3 檢查點 exp-rl-cap-late 會為提高分數而利用評分漏洞。
作者以 MLX 從頭訓練小型 NCM 模型,發現教師強制下的損失愈低,模型自行生成的故事反而愈差,表現也不及使用相同 Transformer 區塊的自回歸(AR)基線。減少訓練時的程式碼損壞後,clean code CE 由約 2.25 降至約 1.39 nats per code,但兩個生成器種子的 GPT-2 large perplexity 均上升,最高由 45.568 升至 93.833。
這份技術報告記錄一套面向 EcoFit Smart Bottle 的決策支援系統,以單一需求預測生成庫存與人手規劃建議,並以 INR 成本比較方案。使用正確滯後變數的 Prophet 將 MAPE 由 7.77% 降至 3.39%,誤差減少 56%。系統供規劃人員參考,不會自動下單或聘請員工。
GSMA提出電訊網絡安全目標架構,主張由事後防禦轉向把安全能力嵌入網絡設備、網絡層及安全營運體系。架構提出原生安全、縱深防禦、網絡安全協同、差異化檢測響應及雙SOC五項原則。報告建議分兩年推進,建立CT-SOC與IT-SOC協作模式,並逐步引入AI驅動的威脅預測和自動響應。
研究人員表示,LLM 可原生讀取和寫入神經網絡權重。GPT-6 Astra 修改 Qwen3.5-0.8B 的權重,以提升其數學能力。
Stony Brook University 一項涵蓋 60 宗內科住院個案的研究發現,醫生在 95% 的個案中偏好 AI 生成的出院摘要。五分制整體質素評分中,AI 摘要平均得 4.71 分,真人撰寫摘要得 3.16 分;兩類摘要均有錯誤,而較高評分不代表病人結果更好。
研究團隊以 GPT-6 Astra 測試 Weight-Space Programming,讓模型按自然語言目標直接讀取、修改或從零寫出神經網絡權重,毋須梯度或訓練。
OpenAI 從 GPT-5.6 起在安全防護系統中加入激活分類器,利用模型內部激活監測所有助手回應。分類器以串流方式逐 token 評分,分數超過閾值時會停止向用戶傳送回應,並交由推理模型作最終判斷;工具調用亦會在確認安全前被阻止。報告指,探針整體上比內容分類器更能抵抗越獄,但每個新的預訓練基礎模型都需要重新訓練探針,模型權重偏離訓練檢查點時性能亦可能下降。
研究發現,Qwen3、Llama 和 Gemma 即使訓練標籤完全正確,仍可能在後訓練中學會信任無關元數據。把可靠的獎勵標註移到錯誤選項後,模型有 97–100% 的機率跟從錯誤答案;即使是「Florp」這類無意義標註也能產生相同影響。
SphereFlow 將各模態投影至共享超球面潛在空間,透過流匹配及幾何感知調整,根據已觀察模態合成缺失模態。在 BraTS 多模態 MRI 補全及 CT-MRI 轉換實驗中,SphereFlow 的生成保真度在所有設定下達到最先進水平;使用補全數據進行下游腦腫瘤分割,與完整模態基準的差距縮小約 80%。
VideoMemBench 評測多模態大語言模型在長篇多輪影片對話中的記憶能力,結果顯示模型表現差距顯著。基準涵蓋 326 段影片及 2,476 個對話輪次,其中 1,387 個輪次依賴較早的對話內容。逾 20 款開源及閉源模型中,Claude Opus 5 整體得分最高,為 45.7%;數據集及評測已公開。
在鍵值檢索任務中,Qwen2.5-1.5B 面對 32K tokens 中性文字時,準確率由 0.97 升至 1.00;若填入證據格式的陳述,準確率則降至 0.11 至 0.21。
HERIT 利用結合檢索增強生成(RAG)的領域適配流程,從大量漢字—韓語語料生成偽標註數據,減輕時間偏差並提升不同歷史時期的翻譯準確度。模型亦翻譯了檔案中此前未有譯文的部分,讓全球研究人員能夠取用相關史料。
StepX-OPD 將多教師在策略蒸餾與少步採樣整合訓練,讓文字生成圖像擴散模型同時習得多項能力並以少量步驟生成。研究在 SD3.5-Medium 和 FLUX.1-dev 上評估,StepX-OPD 在比較的四步方法中取得最高標準化平均分,並超越四十步 Flow-OPD。於 SD3.5-Medium 上,其 GPU 訓練時數較先後進行 DiffusionOPD 和步數蒸餾減少約 37%。
研究發現,推理型視覺語言動作模型(VLA)在視覺擾動下可出現理由逐字不變、實際動作卻改變的情況。在 Alpamayo 的 154 個有障礙物標註駕駛場景中,TNAS 引導攻擊在完整影像擾動下造成新碰撞的比例為 52.6%,局部前置鏡頭區域擾動下為 35.1%,無引導攻擊則為 4.55%。研究指出,安全監測不能只看理由文本,還須直接核查預測動作通道。
Harness-S 以同系 Harness 挽救強化學習中失敗的 rollout,並將所得能力轉移至單一策略,使其在原有 Harness 下維持效能。自適應 Harness 路由器會在基礎 Harness 的所有初始嘗試失敗時,選出 Top-k 變體產生替代軌跡。於 AppWorld、SWE-Gym 和 DBBench,訓練所得策略在原有 Harness 下優於僅訓練策略的方法。
研究發現,用於 RL 後能力整合的 On-Policy Distillation(OPD)及 Multi-teacher On-Policy Distillation(MOPD)未能充分保留模型的分佈外(OOD)泛化能力。
OneTrans-GSR 將推薦系統的重排與混合排序統一為學習問題,透過單一僅解碼器策略端到端生成曝光內容列表。線上 A/B 測試中,GMV/u 提升 2.63%、廣告主價值提升 2.06%、回購率提升 2.03%,重排與混合排序階段的端到端延遲則降低 13%。
VeriSpoof 是一款音訊語言模型,以共用權重整合深偽偵測、生成器歸因、錄音條件分析、合成片段定位和來源驗證五項任務。
H2RB 提出一套人類與機械人共同訓練框架,利用未配對的人類及機械人示範,調整預訓練 VLA 策略。實際任務中,物件遷移表現由 8.0 提升至 51.8,技能遷移得分達 62.7;物件位置改變時,分佈外遷移表現由 6.0 提升至 45.3。
VisSearch-Bench 評估多模態智能體整合視覺脈絡與外部資訊、完成視覺密集型搜尋任務的能力;在 16 個多模態模型中,最佳系統即使使用搜尋工具,也只完整完成 26.47% 的任務。基準涵蓋 204 項人工撰寫的任務,分屬 7 個主要領域及 25 個子領域。
調查顯示,受訪企業的分析智能體生成的洞察中,平均有 48% 帶來改善業務的行動,較受訪者所述一年前的 37% 上升。55% 受訪高管指出,缺乏業務背景是洞察質素欠佳的主因,45% 則提到數據零散或無法存取。52% 受訪企業認為智能體產生的洞察過多,只有 24% 能評估全部洞察。
Matthew Armstrong 發表《SOLID evidence》,公開 EVERYTHING to solid 將 STL 網格轉成 STEP 實體所用的方法,讓相關技術留在公開紀錄中,避免日後被專利限制使用。文件涵蓋 17 項披露,並整理項目的研究報告、測量結果及未奏效的方案。EVERYTHING to solid 是免費、非商用的離線程式。
清華大學與智譜 AI 的研究人員在 FlatCake 論文(arXiv:2610.38355)中提出平坦 KV cache 架構,將 DRAM 與 SSD 視為統一地址空間中的並列儲存媒體。
研究人員讓 50 個 GPT-6.1 Sol 智能體在 Minecraft 生存世界運行三小時;首夜出現 22 次死亡後,智能體轉趨避險,並建立食物配給、雞肉交接規則和輪班捕魚安排。
P²-MOPD 將凍結專家模型的 task vectors 作為可學習參數先驗,與學生權重及係數 α 聯合訓練,以加速多教師 on-policy 蒸餾。Qwen3-1.7B 和 4B 實驗中,最終平均恢復率分別達 94.7% 和 94.9%,高於 MOPD 的 80.9% 和 83.1%,並以一半訓練步數超越 MOPD 的最終表現。