LlamaIndex:產品、工程與評測·· 4 天前AI 評分53
Protect AI 示範如何以 LLM Guard 和 LlamaIndex 加固 RAG
Secure RAG with LlamaIndex and LLM Guard by Protect AI
AI 導讀
Protect AI 示範將 LLM Guard 整合至 LlamaIndex 建構的 RAG 應用,掃描輸入文件與模型輸出中的惡意內容。示例以藏於候選人履歷白字中的提示詞注入作測試,並為簡化流程在檢索階段掃描文件。文中指出文件理想上應在匯入前掃描,並需檢查從 API 即時檢索的資料。
來源:LlamaIndex:產品、工程與評測 · llamaindex.ai