OpenAI將激活分類器納入安全防護

2026年11月3日，OpenAI發布報告，介紹其用於安全與對齊的激活分類器。從 GPT-5.6 起，安全防護系統加入這類分類器，利用模型內部激活監測所有助手回應，並以串流方式逐 token 評分。當分數超過閾值，系統會停止向用戶傳送回應，交由推理模型作最終判斷；工具調用則會在確認安全前受到阻止。報告指出，探針整體上比內容分類器更能抵抗越獄，但每個新的預訓練基礎模型均須重新訓練探針；若模型權重偏離訓練檢查點，探針性能亦可能下降。

AI 根據報道生成 · 2 小時前更新

還沒有足夠的連續觀測數據，暫不繪製趨勢。