熱點事件持續更新
LLM 的 logit bias 可調整 token 選取
1 篇報道1 個報道來源1 小時前更新
先了解這件事
AI 綜述
報道探討如何影響大型語言模型（LLM）選擇特定 token，指出 logit bias 可在計算機率前調整指定 token 的 logit，從而提高或降低該 token 被選中的可能性。當負偏置足夠強時，該 token 可有效被阻止選中。以 OpenAI Chat Completions API 為例，logit_bias 透過 token ID 對應偏置值，接受 -100 至 100；但不同模型是否支援這項設定，須查閲所選模型的文件。
AI 根據報道生成 · 1 小時前更新
報道時間線
沿着報道，瞭解事件的不同側面。
10月19日
- DEV Community如果能調高或禁止 LLM 選用特定 token，會怎樣？
Logit bias 可在計算機率前調整指定 token 的 logit，令其更可能或較不可能被選中；足夠強的負偏置可有效阻止該 token 被選中。OpenAI Chat Completions API 的 logit_bias 以 token ID 對應偏置值，接受 -100 至 100；是否支援須查閲所選模型的文件。
本事件熱度走勢
還沒有足夠的連續觀測數據，暫不繪製趨勢。