跳到正文
熱點事件持續更新

AI模型評估須區分不同通過率

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年11月3日,DEV Community 發文以四次構造的測試結果説明,單次通過率、k 次嘗試中至少一次通過率,以及 k 次全部通過率代表不同評估問題。例子中四次有兩次通過,因此 pass@1 為 50%;當 k=2,pass@2 為 5/6(約 83.3%),而 pass^2 為 1/6(約 16.7%)。文章指出,這些數字來自構造例子,並非模型實測結果。評估重複嘗試時,應保留每次結果、嘗試預算及逐任務數據;對有依賴關係的修復流程,則應把整個流程作為整體評估。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

11月3日
  1. DEV Community
    模型單次通過,不等於表現可靠

    文章以四次構造的測試結果説明,單次通過率、k 次中至少一次通過率與 k 次全部通過率衡量的是不同問題。例子中 2/4 次通過,pass@1 為 50%;當 k=2,pass@2 為 5/6(約 83.3%),pass^2 為 1/6(約 16.7%)。這不是模型實測結果;文章亦指出,評估重複嘗試時應保留每次結果、嘗試預算及逐任務數據,並把有依賴關係的修復流程作整體評估。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。