跳到正文
熱點事件持續更新

MMLU-Pro答案位置捷徑消退,長度偏差集中於新題

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月30日公佈的一項 MMLU-Pro 審計涵蓋 12,032 道測試題。報道指出,答案位置捷徑在這批題目中基本消失,但只選最長選項的命中率仍有 18.38%,高於 11.09% 的機率基線。審計亦指出,5,222 道新來源題目佔基準 43%,卻佔整體答案長度偏差的 88.8%;在這些題目中,只選最長選項的命中率為 25.37%,是 10.45% 機率基線的 2.43 倍。報道稱答案長度捷徑加倍,並指偏差源自新增題目。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月30日
  1. DEV Community
    MMLU-Pro 答案位置捷徑消失,答案長度捷徑加倍且源自新增題目

    對 MMLU-Pro 12,032 道測試題的審計發現,答案位置捷徑基本消失,但只選最長選項的命中率為 18.38%,高於 11.09% 的機率基線。5,222 道新來源題目佔基準 43%,卻佔整體答案長度偏差的 88.8%;其最長選項猜測命中率為 25.37%,是 10.45% 機率基線的 2.43 倍。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。