熱點事件持續更新

RAG管線安全測試揭示檢索風險

1 篇報道1 個報道來源3 小時前更新

先了解這件事

AI 綜述

2026年11月3日的報道記述一項混合檢索 RAG 管線安全評估，管線在三種檢索後端接受中毒語料及無法回答問題測試。評估檢視中毒內容中的植入主張會否進入答案，以及系統面對無法回答問題時會否編造答案。結果顯示，植入主張在80.6%的攻擊測試中進入答案；無法回答的問題有83.3%被編造答案。良性測試完成率為90%，沒有錯誤拒答。SQuAD 格式測試中，20題有19–20題包含標準答案片段，平均 token F1 為0.20–0.21。

AI 根據報道生成 · 3 小時前更新

報道時間線

沿着報道，瞭解事件的不同側面。

11月3日

12:37
DEV Community
RAG 管線安全評估：檢索並非安全邊界，測試中毒語料與無法回答的問題
一個混合檢索 RAG 管線在三種檢索後端接受中毒語料及無法回答問題測試，植入主張在 80.6% 的攻擊測試中進入答案，無法回答的問題則有 83.3% 被編造答案。良性測試的完成率為 90%，沒有錯誤拒答；SQuAD 格式測試中，20 題有 19–20 題包含標準答案片段，平均 token F1 為 0.20–0.21。

本事件熱度走勢

當前熱度 9·可比範圍峯值 10（11月3日 13:00）·近 24 小時可比範圍變化 –

趨勢僅比較持續完整觀測到的相同主體，範圍可能小於當前熱度統計。移動指針或點擊圖表查看每小時熱度；鍵盤可用左右方向鍵切換。