可透過訊息互動的 AI 智能體一覽
TechCrunch 盤點多款可透過訊息渠道互動的 AI 智能體，涵蓋通用助理及家庭、旅遊、工作與內容創作等用途。文章亦介紹各產品的功能、互動渠道與推出狀態，例如 Folk Pro 收費 $8.33/month，Martin 訂閲起價為 $21 per month。
#教學/實踐
#教學/實踐
今日 8 條TechCrunch · AIAI 評分5454 IT之家AI 評分5858 如何用好 GPT-6 系列 AI 模型？OpenAI 發佈指南講解選擇模型與優化提示詞
OpenAI 發佈 GPT-6 系列模型指南，介紹按工作負載選擇模型、優化提示詞及調整推理強度的方法。指南推薦 GPT-6 Astra 處理高難度推理、GPT-6.1 Sol 處理複雜編程、研究和電腦使用，GPT-6 Luna 則用於大規模特定任務及明確的日常重複工作。提示詞應交代期望結果、受眾、上下文、限制及完成標準；最高推理強度適合複雜分析、除錯或深度研究。
LlamaIndex：產品、工程與評測AI 評分5555 使用 LlamaIndex 構建並評估 QA 系統
LlamaIndex 提供一套無需 ground-truth labels 的 QA 系統評估流程，依次生成問題、答案與來源節點，再檢查查詢、回答及來源是否匹配。
LlamaIndex：產品、工程與評測AI 評分4040 如何使用 LlamaIndex 和 MongoDB，打造可查詢私有資料的 ChatGPT
LlamaIndex 與 MongoDB 可將私有資料接入 LLM，透過索引檢索相關內容，讓模型據此回答問題。示範以 100 頁的《GPT-4 Technical Report》PDF 查詢，結果指出 GPT-4 在 Uniform Bar Exam 的成績位居考生前 10%。LlamaIndex 也可將文件與索引持久化至 MongoDB，方便後續查詢。
LlamaIndex：產品、工程與評測AI 評分5353 LlamaIndex 與 Weaviate 入門：建立基於 Weaviate 部落格的問答系統
LlamaIndex 與 Weaviate 的教程示範如何為 Weaviate 部落格內容建立問答系統。流程包括載入並切分文件、將內容寫入 Weaviate 向量庫，再由 query engine 執行語義搜尋及答案合成。
LlamaIndex：產品、工程與評測AI 評分5656 使用 LlamaIndex 和 TruLens 構建並評估大語言模型應用
TruLens 最新版本加入對 LlamaIndex 大語言模型應用的追蹤功能，讓開發者評估和記錄實驗，並檢視輸入輸出、模型呼叫及檢索內容。文章示範以回饋函數檢查語言匹配、答案相關性和檢索片段相關性，並在 TruLens 儀錶板查看彙總結果及個別互動紀錄。文中的錯誤回答案例顯示，檢索到相關性不足且不含答案的上下文時，應用可能產生模型幻覺。
LlamaIndex：產品、工程與評測AI 評分4444 如何使用 LlamaIndex 和 Ray 構建並擴展強大的查詢引擎
LlamaIndex 與 Ray 示範構建查詢引擎，根據 Ray 文件及網誌文章回答問題並生成洞察。流程以 Ray Datasets 平行處理索引建置，並用 Ray Serve 部署查詢引擎，涵蓋文件載入、解析、嵌入向量生成及儲存。
LlamaIndex：產品、工程與評測AI 評分3131 LlamaIndex：運用 Text2SQL 與 RAG 分析產品評論
LlamaIndex 示範以 Text2SQL 結合 RAG 分析產品評論，從資料庫查詢並整理產品洞見。示範資料由 GPT-4 生成，涵蓋 iPhone13、SamsungTV 和 Ergonomic Chair，並存於記憶體 SQLite 資料庫。流程先把自然語言問題拆成主、輔助查詢，再以 Text2SQL 擷取資料，最後透過 List Index 根據輔助問題生成答案。
LlamaIndex：產品、工程與評測AI 評分4141 使用 LlamaIndex 評估 RAG 系統的理想分塊大小
LlamaIndex 示範使用 Response Evaluation 評估 RAG 系統的理想分塊大小，並比較不同設定下的平均回應時間、Faithfulness 與 Relevancy。實驗以 Uber 2021 年 10-K 文件生成問題，使用 GPT-3.5-turbo 產生回答，再以 GPT-4 評估回答的忠實度與相關性。
LlamaIndex：產品、工程與評測AI 評分4747 我如何使用 LlamaIndex 打造 Streamlit LLM Hackathon 勝出應用 FinSight
作者使用 LlamaIndex 打造 FinSight，這款在 Streamlit LLM Hackathon 勝出的應用，可從公司年報提取洞見並生成摘要。其 Annual Report Analyzer 以 RAG 和 FAISS 記憶體向量資料庫處理年報，並把查詢拆成子問題，檢索多處脈絡。
LlamaIndex：產品、工程與評測AI 評分5353 用 LayoutPDFReader 掌握 PDF 解析：抽取章節、標題、段落和表格
文章介紹 LayoutPDFReader 解析具文字層的 PDF，保留章節層級、段落、表格和清單結構，並據此生成供 RAG 使用的分塊。文中示範以 LLMSherpa API 讀取 PDF，並用 LlamaIndex 建立向量索引及執行查詢。工具目前不支援 OCR，只能處理帶有文字層的 PDF；原文亦指出，並非所有 PDF 都能完美解析。
LlamaIndex：產品、工程與評測AI 評分3535 用 PaLM、KOSMOS-2 與 LlamaIndex 打造自己的 ChatGPT 視覺原型
作者以 KOSMOS-2、Google PaLM API 和 LlamaIndex 建構 Streamlit 多模態原型，讓使用者上載圖片並就圖像內容對話。KOSMOS-2 生成圖片描述，PaLM 負責對話，LlamaIndex 串接流程；示範版每個工作階段最多可傳送 20 則訊息。
LlamaIndex：產品、工程與評測AI 評分5959 使用 LlamaIndex 微調 Cohere Reranker，提升檢索表現
LlamaIndex 示範微調 Cohere reranker，並報告自訂 reranker 在該測試中的檢索指標有所改善。
LlamaIndex：產品、工程與評測AI 評分5656 LlamaIndex 解析多模態 RAG 評估方法
LlamaIndex 介紹多模態 RAG 的評估方法，建議沿用文字型 RAG 的檢索與生成兩階段框架，並分別計算文字和圖片的檢索指標。生成評估則可使用能處理文字及圖像上下文的 LMM 作裁判，衡量相關性與忠實度；文中亦介紹其 beta Multi-Modal Evaluator abstractions。
LlamaIndex：產品、工程與評測AI 評分5252 使用 create-llama 將 RAG 應用部署至正式環境
LlamaIndex 提供使用 create-llama 生成的 RAG 全棧應用部署指南，涵蓋 Next.js serverless、Express 和 Python 三種後端。
LlamaIndex：產品、工程與評測AI 評分5959 OpenAI Cookbook：使用 LlamaIndex 評估 RAG 系統的指南
LlamaIndex 發佈《OpenAI Cookbook》，提供使用 LlamaIndex 建構及評估 RAG 系統的指南。內容分為 RAG 概述、使用 LlamaIndex 建構 RAG，以及評估檢索系統和回應生成三部分；建構示例使用 Paul Graham 的文章及 VectorStoreIndex。
LlamaIndex：產品、工程與評測AI 評分3333 以 LlamaIndex、GPT3.5 和 Streamlit 將電商自然語言轉化為 SQL 查詢及洞察
Na2SQL 結合 LlamaIndex、OpenAI GPT-3.5 與 Streamlit，讓使用者以自然語言查詢電商 SQLite 資料庫，並取得 SQL 查詢及結果分析。應用程式會執行生成的 SQL，並提供資料庫結構檢視器；作者使用示例電商資料庫，並提供免費及付費方案。
Tessl：產品與工程博客AI 評分6868 設計系統無法教會 AI 智能體如何作構圖判斷
Tessl 的設計實踐指出，設計系統能列明元件，卻無法教會 AI 智能體如何選用元件、安排畫面層級或判斷何時不使用元件。作者把三個智能體生成的畫面在 Figma 中重新設計，再讓另一個智能體列出前後差異，從重複出現的改動提煉可檢查的構圖規則。
LlamaIndex：產品、工程與評測AI 評分5757 LlamaIndex 如何藉助 AWS 與 Hugging Face 擴展索引流程
作者用 AWS 搭建 LlamaIndex 的可擴展索引 ETL 流程，並採用 Hugging Face 的 Text Embedding Interface（TEI）提供 embeddings。
LlamaIndex：產品、工程與評測AI 評分3434 如何使用 LlamaIndex 和 OpenLLM 構建智能查詢回應系統
LlamaIndex 與 OpenLLM 結合，可構建基於自訂語料、能理解並回應查詢的智能查詢回應系統。示例以 OpenLLM 啟動本地 Llama 2 7B 服務，並由 LlamaIndex 管理及檢索私有、特定領域資料。若使用 vLLM 後端，需配備 Ampere 或更新架構的 GPU 及 CUDA 11.8。
LlamaIndex：產品、工程與評測AI 評分4949 LlamaIndex：進階 RAG 建構速查表與實作配方
LlamaIndex 提供進階 RAG 建構速查表與實作配方，指出系統成效取決於檢索能否找到相關文件，以及生成能否善用文件回答查詢。內容示範以 Chunk-Size Optimization 調整文件分塊，並以結構化外部知識支援遞迴檢索或路由檢索。
LlamaIndex：產品、工程與評測AI 評分6161 Activeloop 與 LlamaIndex 合作推出免費 Advanced RAG 認證課程
LlamaIndex 與 Activeloop 合作提供免費 Advanced Retrieval Augmented Generation for Production 課程。
LlamaIndex：產品、工程與評測AI 評分5252 如何使用 LlamaIndex 建構多租户 RAG 系統
LlamaIndex 示範以文件 metadata 標記使用者，並在查詢時透過 metadata filter 限定可檢索的資料，建構多租户 RAG 系統。示例將 Jerry 與 Ravi 的論文分別加入同一索引，使用 ExactMatchFilter 分隔查詢；Jerry 查詢 Ravi 的 LLMCompiler 論文時未檢索到相關內容。
LlamaIndex：產品、工程與評測AI 評分6363 如何用 LlamaIndex、Qdrant 和 Render 建立可從 Slack 對話學習的聊天機械人
LlamaIndex 的教程示範如何用 LlamaIndex、Qdrant 和 Render 建立並部署 Slack 聊天機械人，讓它從工作區對話記錄資訊並回答相關問題。機械人把未提及它的訊息存入索引，將提及它的訊息作為查詢；Qdrant 用來持久保存記憶，FixedRecencyPostprocessor 配合最多 20 條檢索結果，令較新的訊息優先。
LlamaIndex：產品、工程與評測AI 評分4646 使用 LlamaIndex 與 Zilliz Cloud Pipelines 構建可擴展的 RAG 應用
LlamaIndex 與 Zilliz Cloud Pipelines 整合，讓開發者以託管檢索服務構建可擴展的 RAG 應用。示範以 30 行程式碼構建支援 metadata filtering 的多租户 RAG 聊天機械人，並可不改程式碼由一名用户擴展至數百萬名用户。
LlamaIndex：產品、工程與評測AI 評分5656 Tonic Validate 與 LlamaIndex：實作 LlamaIndex 整合測試
LlamaIndex 的技術指南示範如何將 Tonic Validate 接入 LlamaIndex，並透過 pytest 和 GitHub Actions 建立 RAG 整合測試，以追蹤回答品質變化。
LlamaIndex：產品、工程與評測AI 評分5151 LlamaIndex 以 Alpha 調校提升 RAG 混合搜尋的檢索表現
LlamaIndex 使用 Retrieval Evaluation module，在 Weaviate 中按查詢類型調校 RAG 混合搜尋的 Alpha，並比較有無重排器的檢索結果。實驗涵蓋六類查詢，以及索引一篇或三篇論文的資料集，並以 Hit Rate 和 MRR 評估檢索表現。文中結果顯示，重排器提升所測資料的兩項指標，而 Alpha 的表現會隨查詢類型和索引文檔數量而異。
LlamaIndex：產品、工程與評測AI 評分4545 如何使用 LlamaIndex.TS 以 TypeScript 建立 LLM 智能體
LlamaIndex.TS 教程示範如何以 TypeScript 建立 LLM 智能體，讓它調用函數工具完成計算，並根據文件回答問題。文件流程以 VectorStoreIndex 和 SummaryIndex 建立查詢及摘要工具；使用前須執行 `npm install llamaindex` 並設定 `OPENAI_API_KEY`。
LlamaIndex：產品、工程與評測AI 評分4343 LlamaIndex 與 LanceDB：以多模態 RAG 進行進階影片處理
LlamaIndex 結合 OpenAI GPT4V 與 LanceDB，示範以多模態 RAG 處理影片，檢索影像及音訊轉寫內容。流程每 5 秒擷取 1 個影格（約 160 個），將音訊轉成文字，再用 OpenAI CLIP 為文字和影像生成嵌入向量，存入 LanceDB VectorStore。
LlamaIndex：產品、工程與評測AI 評分5151 LlamaIndex 示範如何以差分隱私生成合成資料，供跨網絡 RAG 檢索
LlamaIndex 示範以差分隱私將敏感資料轉成合成資料，再透過 NetworkRetriever 讓多個貢獻者跨網絡檢索。在包含 1,200 個樣本、24 種疾病標籤的 Symptom2Disease 示例中，NetworkRetriever 的 hit rate 和 mean reciprocal rank 高於單一貢獻者檢索器。
LlamaIndex：產品、工程與評測AI 評分5353 Protect AI 示範如何以 LLM Guard 和 LlamaIndex 加固 RAG
Protect AI 示範將 LLM Guard 整合至 LlamaIndex 建構的 RAG 應用，掃描輸入文件與模型輸出中的惡意內容。示例以藏於候選人履歷白字中的提示詞注入作測試，並為簡化流程在檢索階段掃描文件。文中指出文件理想上應在匯入前掃描，並需檢查從 API 即時檢索的資料。
LlamaIndex：產品、工程與評測AI 評分6363 教學：使用 LlamaIndex 與 llamafile 建立本機私隱研究助理
Mozilla 的客座文章示範使用 llamafile 在本機執行大語言模型，並配合 LlamaIndex 建立本機 RAG 研究助理。示例以同一個 llamafile 同時作為大語言模型和嵌入向量後端，將本機檔案與 Wikipedia 頁面建立向量索引，再透過 RAG 回答問題。整個助理在本機運行，毋須註冊雲端服務、支付 API 呼叫費用或把資料傳給第三方。
LlamaIndex：產品、工程與評測AI 評分4747 使用 MultiOn 與 LlamaIndex 自動化網上任務
MultiOn 與 LlamaIndex 的整合示例展示如何以 AI 智能體自動處理網上任務及電郵流程。示例以 OpenAIAgent 結合瀏覽器與 Gmail 搜尋工具，搜尋、摘要及開啟郵件，再根據郵件串起草回覆。
LlamaIndex：產品、工程與評測AI 評分5656 LlamaIndex 如何自訂 Property Graph Index：實作實體去重與自訂檢索器
LlamaIndex 的 Property Graph Index 教程示範以 schema 引導抽取來建構知識圖譜，並加入實體去重與自訂檢索器，以提高 GraphRAG 準確度。示例使用 Diffbot 新聞資料集中的 250 篇文章建圖，使用 GPT-4o 約需 7 分鐘；去重結合嵌入向量相似度與詞距，自訂檢索器則先抽取查詢中的實體，再逐一使用 VectorContextRetriever。
LlamaIndex：產品、工程與評測AI 評分3434 案例研究：Scaleport.ai 如何藉 LlamaParse 加快開發並提升銷售
Scaleport.ai 採用 LlamaParse 加快 AI 應用開發，並改善客户互動與銷售成果。團隊可在需求界定階段製作技術原型，即時展示實際價值；LlamaParse 在多項 OCR 任務上勝過 GPT-4 vision。為一名客户開發等效應用時，開發工時較採用 LlamaParse 前減少約 50-60%。
LlamaIndex：產品、工程與評測AI 評分4242 使用 LlamaParse 高效優化 RAG 流程的分塊大小
LlamaParse 提供索引複製、分塊視覺化與快速迭代功能，協助開發者測試和調整 RAG 流程的分塊大小，無須手動管理資料儲存或進行複雜重新索引。示例以 512 tokens 為基準，改用 Page 分段及 None 分塊設定後，回答更完整涵蓋 SWE-bench 的特徵。
LlamaIndex：產品、工程與評測AI 評分5656 使用 LlamaIndex 和 Azure OpenAI 構建無伺服器 RAG 應用程式指南
LlamaIndex 的指南介紹如何使用 LlamaIndex 和 Azure OpenAI，在 Microsoft Azure 上構建無伺服器 RAG 應用程式。
LlamaIndex：產品、工程與評測AI 評分3535 開發者專案聚焦：以 LlamaIndex 和 NVIDIA NIM 打造 AI 銷售助理
NVIDIA 使用 LlamaIndex 與 NVIDIA NIM 為銷售代表打造 AI 銷售助理，支援內部知識檢索、翻譯及撰寫電郵等任務。系統按查詢類型將問題交予 Llama 3.1 405b，或以 Llama 3.1 70b 執行多來源 RAG，以較快、較低成本處理大量文件。Chainlit 提供聊天介面，RAG 資料來源包括內部文件庫、NVIDIA 網站及公開互聯網。
LlamaIndex：產品、工程與評測AI 評分3030 OilyRAGs：打造由 RAG 驅動的 AI 維修技工助手
Jeff Davis 以 LlamaIndex 建成 OilyRAGs，這款多模態、免提式 RAG 維修技工助手的原型聚焦船艇維修。它可用手機辨識引擎型號、診斷問題及查詢零件，並生成數碼表格；作者稱操作速度提升 6,000%。該原型在 LlamaIndex 的 RAG-A-THON 獲第三名，數據可供 RAG 系統日後查詢。
LlamaIndex：產品、工程與評測AI 評分4646 使用 LlamaIndex 與 Memgraph 建構知識圖譜
Memgraph 示範如何透過 LlamaIndex 將非結構化文字建成可用自然語言查詢的知識圖譜。範例以 Charles Darwin 傳記抽取實體與關係，並透過查詢得出 Alfred Russel Wallace 是其合作者。