使用 LlamaIndex 和 TruLens 構建並評估大語言模型應用

TruLens 最新版本加入對 LlamaIndex 大語言模型應用的追蹤功能，讓開發者評估和記錄實驗，並檢視輸入輸出、模型呼叫及檢索內容。文章示範以回饋函數檢查語言匹配、答案相關性和檢索片段相關性，並在 TruLens 儀錶板查看彙總結果及個別互動紀錄。文中的錯誤回答案例顯示，檢索到相關性不足且不含答案的上下文時，應用可能產生模型幻覺。