Goodfire Research 提出模型差分放大法，協助發現罕見不良行為

Goodfire Research 提出模型差分放大法，放大模型在後訓練前後的 logits 差異，以協助浮現罕見不良行為。實驗顯示，該方法令湧現失配回覆增加 10 至 300 倍；當資料集含 5% 不良醫療建議時，有害回覆由每 10,000 次抽樣 1 次增至每 30 次 1 次。研究亦把此法用於監察後訓練和偵測後門行為；作者指出，放大後的回覆頻率不代表模型行為的實際發生率。