LlamaIndex：產品、工程與評測·2026-10-03 04:00· 4 天前AI 評分49

LongLLMLingua：以提示詞壓縮緩解「Lost in the Middle」並降低 RAG 成本

LongLLMLingua: Bye-bye to Middle Loss and Save on Your RAG Costs via Prompt Compression

AI 導讀

LongLLMLingua 以提示詞壓縮處理 RAG 與長上下文中的「Lost in the middle」問題，並降低 token 用量及成本。其準確率最高可提升 21.4%，token 用量僅為原來的 ¼；長上下文情境下，每 1000 個例子可節省 $28。