跳到正文
原文
LlamaIndex:產品、工程與評測·· 4 天前AI 評分53

Protect AI 示範如何以 LLM Guard 和 LlamaIndex 加固 RAG

Secure RAG with LlamaIndex and LLM Guard by Protect AI

AI 導讀

Protect AI 示範將 LLM Guard 整合至 LlamaIndex 建構的 RAG 應用,掃描輸入文件與模型輸出中的惡意內容。示例以藏於候選人履歷白字中的提示詞注入作測試,並為簡化流程在檢索階段掃描文件。文中指出文件理想上應在匯入前掃描,並需檢查從 API 即時檢索的資料。

來源:LlamaIndex:產品、工程與評測 · llamaindex.ai