跳到正文
熱點事件持續更新

上下文工程成為 RAG 與 Agent 設計重點

1 篇報道1 個報道來源2 小時前更新

先了解這件事

AI 綜述

隨着模型的上下文窗口增至數十萬個 token,團隊開始把模型接收的所有內容視為需要精心設計的上下文預算,而不再只追求完美提示詞。這種把整體輸入納入規劃的做法,報道以「上下文工程」為題討論。預算涵蓋系統提示詞、RAG 檢索文件、工具結果、對話歷史及記憶,亦即模型接收的不只提示詞。報道指出,無關內容會分散模型注意力並降低準確度。因此,建立 RAG 或 Agent 系統時,應精簡及整理上下文,而非一味擴大模型或持續累積內容。

AI 根據報道生成 · 2 小時前更新

報道時間線

沿着報道,瞭解事件的不同側面。

10月25日
  1. DEV Community
    上下文工程解析

    隨着上下文窗口增至數十萬個 token,團隊開始把模型接收的所有內容視為需要精心設計的上下文預算,而非只追求完美提示詞。預算包括系統提示詞、RAG 檢索文件、工具結果、對話歷史及記憶;無關內容會分散模型注意力並降低準確度。建立 RAG 或 Agent 系統時,應精簡及整理上下文,而非一味擴大模型或累積內容。

本事件熱度走勢

還沒有足夠的連續觀測數據,暫不繪製趨勢。