熱點事件歷史事件
Anthropic測試投毒為分類器植入後門
1 篇報道1 個報道來源4 天前更新
先了解這件事
AI 綜述
2026年10月3日，Anthropic 研究人員發表研究，測試能否透過投毒微調資料集，為憲法分類器植入後門，同時不明顯削弱其穩健性。報道指出，研究以 Qwen3 8B 配合 LoRA 訓練分類器；在不同訓練集規模的實驗中，約32個投毒樣本便足以植入後門。研究亦測試 Anthropic 內部分類器，所需投毒樣本數為32至128個。報道未提供其他樣本量結果或後續進展。
AI 根據報道生成 · 4 天前更新
最新進展10月3日 03:59
測試顯示，Qwen3 8B 分類器約需32個投毒樣本，Anthropic 內部分類器需32至128個。報道時間線
沿着報道，瞭解事件的不同側面。
10月3日
- Anthropic：Alignment Science BlogAnthropic 研究以微調資料投毒為憲法分類器植入後門
Anthropic 研究人員測試以微調資料集投毒，能否在不明顯削弱穩健性的情況下為憲法分類器植入後門。在以 Qwen3 8B 和 LoRA 訓練的分類器實驗中，約 32 個投毒樣本在不同訓練集規模下便足以植入後門；Anthropic 內部分類器的測試則需 32 至 128 個。