跳到正文
熱點事件持續更新

MMLU-Pro 審計揭示模型選項長度偏向

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

2026年10月30日報道指出,研究人員審計 MMLU-Pro 中 656 道 STEM 網站生物及心理學題目,檢視 15 個模型的作答表現。結果顯示,模型答錯時,15 個模型都比隨機錯答更常選中最長的錯誤選項。Llama-2-7B、Mistral-7B-Instruct-v0.2 及 Gemma-7B 的準確率低於只選最長選項所得的 66.85% 基準。此外,14 個模型在 STEM 網站題目上的這種偏向,高於 MMLU 衍生題目。研究屬觀察性分析,未能確認選項長度是否造成這種偏向。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月30日
  1. DEV Community
    MMLU-Pro 審計發現模型偏向最長選項,三個模型低於長度基準

    針對 MMLU-Pro 656 道 STEM 網站生物及心理學題目的審計發現,15 個模型答錯時都比隨機錯答更常選中最長的錯誤選項。Llama-2-7B、Mistral-7B-Instruct-v0.2 和 Gemma-7B 的準確率低於只選最長選項所得的 66.85%。這種偏向在 14 個模型的 STEM 網站題目上高於 MMLU 衍生題目;研究屬觀察性分析,無法確認選項長度是否造成此偏向。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。