跳到正文
熱點事件持續更新

ANLI 人工判斷標註一致性分析

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月26日,DEV Community刊出對 ANLI 的 verifier_labels_R1-3.jsonl 檔案分析,從對抗輪次、模型錯誤、平局裁決及文本領域四方面檢視其中 29,803 項人工判斷。分析指出,29,803 行中有 29,765 行(99.87%)的標註者原始標籤符合驗證者嚴格多數;分輪次看,只有 R1 留有殘留分歧。進一步控制輪次後,類別仍會影響驗證者的一致程度,而文本領域造成的差異則幾乎消失。報道呈現了整體標籤吻合比例,以及輪次、類別和文本領域在判斷一致性分析中的結果。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月26日
  1. DEV Community
    ANLI verifier_labels_R1-3.jsonl 檔案分析:解讀 29,803 項對抗式基準人工判斷的四種方式

    MV2 分析 ANLI 的 verifier_labels_R1-3.jsonl 檔案,從對抗輪次、模型錯誤、平局裁決和文本領域四個角度解讀 29,803 項人工判斷。29,803 行中有 29,765 行(99.87%)的標註者原始標籤符合驗證者嚴格多數;各輪中,R1 是唯一齣現殘留分歧的輪次。控制輪次後,類別仍影響驗證者的一致程度,文本領域的差異則幾乎消失。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。