熱點事件持續更新
a16z 投資 Preference Model，團隊開源 Karotte
1 篇報道1 個報道來源3 小時前更新
先了解這件事
AI 綜述
2026年10月8日的報道稱，a16z 投資 Preference Model。該團隊為 AI 研究及 ML 工程任務建設強化學習環境。本週，團隊開源 Karotte 框架，用來找出模型弱點、生成針對性任務，並以嘗試攻破環境的智能體進行測試。報道指出，Karotte 設有在評分前終止殘留程序、拒收可能令評分器崩潰的檔案等防護；該框架經逾 1,000,000 次評估運行及受控紅隊測試。
AI 根據報道生成 · 2 小時前更新
最新進展10月8日 02:02
Preference Model 團隊本週開源 Karotte，並披露其防護措施及測試規模。報道時間線
沿着報道，瞭解事件的不同側面。
10月8日
- a16z：Newsa16z 投資 Preference Model
a16z 投資 Preference Model，該團隊為 AI 研究及 ML 工程任務建設強化學習環境。團隊本週開源 Karotte，這套框架可找出模型弱點、生成針對性任務，並以嘗試攻破環境的智能體進行測試。Karotte 設有終止評分前殘留程序、拒收可能令評分器崩潰的檔案等防護，並經逾 1,000,000 次評估運行及受控紅隊測試。
本事件熱度走勢
還沒有足夠的連續觀測數據，暫不繪製趨勢。