跳到正文
熱點事件持續更新

智能體基準審計找出測試缺陷

1 篇報道1 個報道來源3 小時前更新

先了解這件事

AI 綜述

作者建立兩套各有60項任務的智能體基準評測,用來檢查審計能否識別失效基準:一套乾淨,另一套植入12處測試缺陷。審計在有缺陷的套件中找出11處,沒有誤報。參考智能體在乾淨套件取得60/60,在缺陷套件取得55/60;報道稱測試本身令分數損失8.3分。審計前,三個評分器以150個已標註項目驗證。報道的結果亦列出缺陷植入及審計檢查情況、兩套基準上的參考智能體分數,以及三個評分器在審計前的驗證資料。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

11月4日
  1. DEV Community
    如何構建能識別失效基準的評測:智能體基準審計實驗

    作者建立兩套各有 60 項任務的智能體基準評測,一套乾淨,另一套植入 12 處測試缺陷;審計找出 11 處,沒有誤報。參考智能體在乾淨套件得 60/60、缺陷套件得 55/60,測試本身令分數損失 8.3 分;三個評分器在審計前以 150 個已標註項目驗證。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。