熱點事件歷史事件
Anthropic 提出 ICM 無監督能力提取法
1 篇報道1 個報道來源4 天前更新
先了解這件事
AI 綜述
2026年10月3日，Anthropic 團隊在 Alignment Science Blog 提出 ICM 無監督演算法，從預訓練語言模型提取能力。方法讓模型自行標註資料，再以這些標註微調模型，毋須外部標籤。團隊在 Llama 3 的 GSM8k-verification、TruthfulQA 及 Alpaca reward modeling 任務上測試，報道稱 ICM 的表現可匹配使用資料集標籤微調的結果，並超越眾包人類標籤。報道亦指出，ICM 無法提取預訓練模型中不顯著的技能，也不適用於長輸入。
AI 根據報道生成 · 4 天前更新
最新進展10月3日 03:59
Anthropic 團隊提出 ICM，並報告其在三項 Llama 3 任務上的表現與限制。報道時間線
沿着報道，瞭解事件的不同側面。
10月3日
- Anthropic：Alignment Science BlogAnthropic 提出 ICM 無監督演算法，從預訓練語言模型提取能力
Anthropic 團隊提出 ICM 無監督演算法，透過模型自行標註資料微調預訓練語言模型，無需外部標籤即可提取能力。在 Llama 3 的 GSM8k-verification、TruthfulQA 和 Alpaca reward modeling 任務中，ICM 匹配以資料集標籤微調的表現，並超過眾包人類標籤。該方法無法提取預訓練模型中不顯著的技能，也不適用於長輸入。