LlamaIndex：甚麼是上下文工程，以及可考慮的技巧

LlamaIndex 闡釋上下文工程：為 AI 智能體挑選並整理相關資訊，以填充 LLM 的上下文窗口，而非只設計提示詞或處理 RAG 檢索。上下文可包括系統提示詞、用户輸入、短期及長期記憶、知識庫資料、工具定義與回應、結構化輸出及全局狀態。文章亦討論知識庫或工具的選擇，以及以摘要壓縮和排序，在有限的上下文窗口內保留相關資訊。