跳到正文
3月26日週四
  1. Hamel Husain 長文67

    數據科學家的反擊:LLM 時代評測仍需要數據科學方法

    Hamel Husain 認為,LLM API 雖讓團隊可自行整合 AI,評測、實驗設計和生產監測仍需要數據科學方法。文中列出五類評測陷阱,包括套用通用指標、未驗證 LLM 評審、測試集設計不當、數據及標籤質素欠佳,以及過度自動化。作者建議檢視 traces、以人工標註驗證評審,並根據真實生產數據設計測試集,讓領域專家參與標註。

3月13日週五
  1. gihyo.jp58

    以 AWS 原生服務實現 DataOps × LLMOps 整合架構

    文章介紹一套以 AWS 原生託管服務為主的架構,整合多個 AI 智能體與搜尋資料儲存庫在生產環境中的品質管理。架構以 OpenTelemetry Trace 為共同追蹤單位,結合 AgentCore Evaluations 同時評估智能體回答品質與搜尋品質,並據此定位問題、更新評估數據集及重新通過品質閘門。

3月12日週四
2月24日週二
2月2日週一
1月27日週二
  1. gihyo.jp62

    CrewAI 入門:以 Python 構建多智能體 AI 系統

    文章以 Python 3.13 和 CrewAI 1.8.1 示範如何構建多智能體 AI 工作流,介紹 Agent、Task、Crew 等基本組件,以及順序式與階層式流程。內容亦示範以 SerperDevTool 進行搜尋,並介紹 CrewAI CLI、YAML 設定、Memory 和基於 RAG 的 Knowledge。文末提及正式環境的存取控制、監察、記錄及成本管理考量。

1月12日週一
  1. Inception Labs:Blog32

    SearchBlox 與 Inception:企業級即時 GenAI 搜尋

    SearchBlox 將 Inception 的 Mercury dLLM 整合至 SearchAI 的 RAG 流程,為企業搜尋提供低於 1 秒的 GenAI 回應。Mercury 令推理成本降低 60% 至 90%。客户可在 AWS Bedrock 或 Azure Foundry 部署 Mercury,數據不會離開其私有雲實例。

2025年12月1日週一
2025年11月6日週四
2025年9月4日週四
  1. Hugging Face Blog67

    Google 發佈 EmbeddingGemma 多語言嵌入模型

    Google 發佈 EmbeddingGemma,一款支援 100 多種語言、具備 308M parameters 和 2K context window 的多語言嵌入模型。文章示範以 Sentence Transformers、LangChain 等工具接入模型,並在 MIRIAD 醫療檢索測試中將微調版的 NDCG@10 提升至 0.8862,基礎模型為 0.8340。

    推薦理由:文章提供 EmbeddingGemma 接入多個檢索框架的程式示例,並説明查詢與文件提示詞的設定方式,方便將模型納入既有檢索流程。

2025年8月21日週四
  1. OpenAI News47

    Blue J 如何在複雜受規管領域快速擴展

    Blue J 結合 GPT‑4.1 與專有税務資料庫,在兩年內將税務研究引擎擴展至美國、加拿大和英國,服務超過 3,000 間企業。用戶每週平均節省 2.7 小時,答案被標記為不同意的比率低於 1/700。公司以涵蓋 350 多個提示詞的基準套件評估新模型。

2025年7月22日週二
  1. OpenAI Developers56

    OpenAI Responses API 的 File search 使用指南

    OpenAI 的 File search 指南説明,Responses API 可透過語義與關鍵詞搜尋,從已上傳檔案的知識庫檢索資訊。指南示範先建立 vector store 並上傳檔案,再將 file_search 加入可用工具;此工具由 OpenAI 託管,模型決定調用時會自動搜尋檔案並返回結果。

2025年7月21日週一
  1. OpenAI Developers66

    如何提升 LLM 的正確性與一致性

    OpenAI 提出提升 LLM 正確性與行為一致性的優化框架,建議先透過評估診斷失誤,再按問題選用提示詞、RAG 或微調。在冰島語校正測試中,GPT-4 零樣本的 BLEU 為 62,加入 3 個 few-shot examples 後為 70;以 1000 個例子微調 GPT-4 後為 87,再加入 RAG 則降至 83。

2025年7月11日週五
  1. OpenAI Developers57

    OpenAI Developers 的 AI 應用開發學習路線:從概念到生產環境

    OpenAI Developers 提供一套面向開發者的 AI 應用開發學習路線,按四階段涵蓋基礎概念、應用開發、測試與評估,以及規模化和維護。內容介紹如何透過 Responses API 或 Agents SDK 建置智能體,並説明 RAG 用於引入知識、微調用於調整模型行為,以及用 evals 和 guardrails 測試與約束應用。

2025年7月1日週二
  1. Hugging Face Blog64

    使用 Sentence Transformers 訓練及微調稀疏嵌入模型

    Hugging Face Blog 示範如何使用 Sentence Transformers 訓練及微調稀疏嵌入模型,介紹 SPLADE、Inference-free SPLADE、CSR 架構,以及資料、損失函數、評估器和訓練器的配置。

    推薦理由:文章按 SPLADE、Inference-free SPLADE 與 CSR 的適用情境梳理架構選擇,並以實作例子串連資料、損失函數和評估器配置。

2025年5月28日週三
2025年5月27日週二
  1. Mistral AI70

    使用 Mistral Agents API 構建 AI 智能體

    Mistral AI 發佈 Agents API,將內置連接器、跨對話記憶及智能體編排整合為構建 AI 智能體的框架。內置連接器涵蓋代碼執行、網絡搜索、圖像生成、Document Library 及 MCP 工具;啟用網絡搜索後,Mistral Large 和 Mistral Medium 在 SimpleQA 的分數分別由 23% 和 22.08% 升至 75% 和 82.32%。

    推薦理由:Agents API 把內置連接器、跨對話記憶和多智能體編排納入同一框架,並以 SimpleQA 數據呈現網絡搜索前後的分數差異。

2025年5月8日週四
2025年4月23日週三
  1. AiX Society · 原創觀點21

    AI+MBTI 如何革新企業溝通與管理

    AI 結合 MBTI,為企業員工溝通與管理提供個人化策略,並可配合 RAG 技術,按員工性格及即時溝通情況調整建議。應用包括分析溝通模式、提供個人化績效回饋,以及改善會議安排和團隊協作。文章指出,AI+MBTI 的應用仍處於早期階段,未來或延伸至跨文化溝通及結合其他心理模型。

2025年3月28日週五
2025年3月7日週五
  1. Mistral AI69

    Mistral OCR 推出文件理解 API,支援圖片與 PDF 解析

    Mistral AI 推出 Mistral OCR 文件理解 API,可解析圖片與 PDF,並抽取文字、圖像、表格及公式。API mistral-ocr-latest 已在 la Plateforme 開放,每美元可處理 1000 頁,批次推理下每美元可處理頁數約增至兩倍;Mistral OCR 亦可在 le Chat 免費試用。

    推薦理由:Mistral OCR 可解析 PDF、圖片中的表格與公式,並支援 JSON 輸出,展示文件接入 RAG 與 Agent 工作流的實際做法。

2025年2月13日週四
  1. Hugging Face Blog60

    分類、文本嵌入與視覺嵌入處理 1B 筆輸入的成本與延遲評測

    這項基準測試比較文字分類、文本嵌入及視覺嵌入的推理配置,估算處理 1B 筆輸入的成本與延遲。在 nvidia-L4($0.8/hr)上,三類任務每 1B 筆輸入的成本分別為 $253.82、$409.44 和 $44,496.51;測試程式碼見 https://github.com/datavistics/encoder-analysis。

    推薦理由:三類實測呈現 GPU、batch size 與並行 VUs 對成本和延遲的影響,並提供可替換模型與硬件重跑的流程,供讀者估算自有配置處理 1B 筆輸入的開支。

2025年2月10日週一
2024年12月19日週四
2024年12月18日週三
2024年12月11日週三
  1. antirez 原創博客67

    antirez 宣佈重返 Redis 生態系統,並展示向量集合原型

    antirez 宣佈重返 Redis 生態系統,並表示希望以兼職形式協助公司與社羣溝通及 Redis 核心發展方向。他正以有序集合為靈感,從頭重寫 HNSW,製作向量集合的概念驗證,並展示 VSIM、VADD、VCARD 等命令;目前仍處於早期階段。他認為社羣分裂並非主要源於授權轉換,並希望新授權能令開發重心回到 Redis 核心。

2024年10月21日週一
  1. Ollama:Blog59

    IBM Granite 3.0 模型現可透過 Ollama 執行

    Ollama 現已提供部分 IBM Granite 3.0 模型供用戶執行,所有模型均採用 Apache 2.0 授權。Granite 2B、8B 是純文字 Dense LLM,使用超過 12 trillion tokens 訓練;1B、3B MoE 模型使用超過 10 trillion tokens 訓練,面向低延遲推理,適合裝置端部署或需要即時推理的情境。

2024年9月18日週三
  1. Ollama:Blog47

    用 Bespoke-Minicheck 減少模型幻覺

    Bespoke Labs 開發的事實核查模型 Bespoke-Minicheck 現已可在 Ollama 使用,可核對其他模型生成的回應,以偵測並減少模型幻覺。模型會將生成內容中的 Claim 與來源 Document 核對,並按文件是否支持該主張輸出 Yes 或 No。它尤其適用於檢索增強生成(RAG)應用,可在後處理階段檢查回應是否根據提供給 LLM 的檢索內容。

2024年9月16日週一
  1. Hugging Face Blog67

    HuggingChat 推出 Community Tools,支援將 Hugging Face Spaces 轉為工具

    HuggingChat 推出 Community Tools,讓使用者可把 Hugging Face 上的公開 Space 轉成模型可直接調用的工具。這些工具可用於理解圖片、生成影片或文字轉語音,也可建立文件 RAG 工具。建立助手時最多可選 3 個工具;該功能目前仍屬實驗階段。

    推薦理由:文章展示如何把公開 Space、自建 Gradio 工具和文件 RAG 接入 HuggingChat,並在助手中組合最多 3 個工具,提供從建立到配置的實操路徑。

2024年7月16日週二
  1. Hugging Face Blog60

    如何利用 distilabel 為 Argilla 2.0 建立聊天機械人

    Hugging Face Blog 示範如何用 distilabel 為 Argilla 2.0 技術文件建立 RAG 聊天機械人。流程包括從文件建立切塊與合成查詢三元組、微調領域嵌入模型、建立向量資料庫,並將 Gradio 應用部署至 Hugging Face Spaces。聊天互動會記錄在 Argilla,供持續評估與改進。

    推薦理由:文章串起文件切塊、合成查詢三元組、微調領域嵌入模型、向量檢索與對話評估,提供一套可複用的文件問答 RAG 實作流程。

2024年7月9日週二
2024年7月7日週日
  1. Lilian Weng:Lil'Log60

    LLM 外在幻覺的成因、評估與緩解方法

    Lilian Weng 梳理 LLM 外在幻覺,即生成內容虛構且不以提供的上下文或世界知識為依據,並回顧其成因、評估與緩解方法。文章指出,預訓練資料可能過時、缺漏或有誤,而微調新知識亦可能增加模型產生幻覺的傾向。評估方法涵蓋檢索輔助事實核查、抽樣一致性和未知知識校準;緩解路線包括 RAG、Chain-of-Verification 及事實性微調。

2024年6月7日週五
2024年5月31日週五
2024年5月17日週五
2024年5月9日週四
2024年4月8日週一
2024年3月6日週三
  1. The Gradient66

    文字嵌入向量能否完整保留原文?vec2text 以 50 步還原 92% 的 32-token 序列

    Jack Morris 介紹 vec2text,這套方法透過反覆生成及修正文本假設,從文字嵌入向量還原輸入內容。在 50 步迭代及若干技巧下,方法可準確還原 92% 的 32-token 序列,BLEU 分數達 97。研究指出,這使將文字嵌入向量存入向量資料庫的做法面臨原文外洩風險,並提出嵌入長度與防護方式仍待進一步研究。