跳到正文

全部動態

今日 23 條
9月30日週三
  3. Google AI：DEV 作者專屬52

    如何以 AlloyDB for PostgreSQL 整合 Jev 模型，實現亞秒級語義篩選

    文章展示如何在 AlloyDB for PostgreSQL 中整合 TypeSafe AI 的 Jev 模型，直接對資料庫資料執行語義篩選與分類。作者以 PostgreSQL 陣列批次處理 50 筆商品，將多項模型評估合併成一次 HTTP 請求；測試耗時約 180 毫秒，逐行使用 Jev 約需 5,600 毫秒，預設模型約需 19,500 毫秒。

  4. AWS Machine Learning Blog51

    Amazon Quick 提示詞工程基礎：通用原則與結構化框架

    AWS 介紹 Amazon Quick 的提示詞工程基礎，整理適用於不同功能的通用原則與可複用框架。文章涵蓋明確具體、提供業務背景、以示例指定輸出，以及 CRISPE、RADAR、ARCHITECT 和 QUEST 等框架，並介紹中繼資料檢索、多角度分析與情境規劃。文中以 RFI 問卷自動化示範 Quick Flow 如何把多工作表資料整理為四欄 CSV，並稱可將原需數小時的處理縮至數分鐘。

9月29日週二
  3. Google AI：DEV 作者專屬58

    如何使用 Gemini Live API 建立即時語音 AI 智能體

    Gemini Live API 可用於建立即時語音 AI 智能體，透過雙向 WebSocket 同時傳送和接收音訊，支援即時回應及用戶插話。建議並行處理麥克風上行音訊與模型下行語音，並在麥克風偵測到用戶説話時立即靜音及清除播放緩衝區；Gemini Live 內置 VAD 負責偵測語音活動。工具操作可非同步執行並即時回傳確認，避免較慢的外部操作令語音生成停頓。

  4. Google AI：DEV 作者專屬62

    如何在生產環境中加固 AI 智能體沙盒：Docker 容器以外的 7 種方法

    文章提出 7 種在生產環境加固 AI 智能體沙盒的方法，並指出標準 Docker 容器共用主機作業系統核心。建議採用 gVisor 或 microVM 作核心隔離，把 API 金鑰留在沙盒外並透過閘道呼叫，預設限制所有階段的外連，並按整個工作階段累計工具操作及預算。其餘措施包括隔離工作區並保護 CI／測試檔案、使用按活躍 CPU 計費的無伺服器環境，以及把審計日誌即時傳送至沙盒外。

9月28日週一
9月26日週六
  1. GitHub Blog · AI & ML66

    GitHub Copilot app 初學者指南：如何用 canvases 建立自訂工作流程

    GitHub Copilot app 的 canvases 可按用户描述生成自訂介面，讓用户與智能體在共享畫布中同步查看和更新工作內容。用户在 Agent 工作階段輸入 /create-canvas，描述所需工作流程、介面操作和智能體可執行的事項，毋須手動編寫程式或設計。畫布建立後會保存為擴展，可留在專案中供團隊共用，也可保存為個人擴展重用。

    推薦理由：文章從描述工作流程、介面操作與智能體職責開始，示範如何建立、反覆調整並保存可重用的畫布擴展，呈現把日常流程轉成協作介面的具體步驟。

9月25日週五
  2. Anthropic：Claude.dev 開發者博客73

    Claude Code：如何按任務分配 effort 等級

    作者測試 Claude Code 的 effort 等級後指出，較高 effort 會增加模型自主判斷、驗證和邊界案例測試，對需要嚴密驗證的工作尤其有用。Fable 5.1 在 Terminal-Bench 3.0 的安全類通過率由 low effort 組的 64% 升至 top effort 組的 87%，硬件類則由 34% 升至 75%。

9月24日週四
  1. Simon Willison32

    Shadow roots：透過即時範例解説

    Shadow roots 透過互動範例解説 shadow DOM，展示樣式封裝、繼承、slots、parts 及 JavaScript 存取方式。它們會建立隔離的 DOM 樹，包含私有樣式表與元素，並以特定且受控的方式與頁面 DOM 互動。

9月23日週三
  1. Modal 官方工程博客63

    Modal 如何為採用萬億參數模型的編碼智能體提供萬億級 token 推理服務

    Modal 為編碼智能體優化月之暗面 Kimi K2.6 推理服務，相關服務每日處理數千億 token，累計處理萬億級 token。優化令單副本每用戶解碼速度提升 2.8x，每 GPU 的跨用戶 token 吞吐量提升 5.6x。方法涵蓋推測解碼、KV 快取與負載感知路由，並從單副本優化延伸至多副本部署。

9月22日週二
  1. Anthropic：Claude.dev 開發者博客67

    Opus 5.5 在 Claude 和 Claude Code 中的使用指南

    這份指南説明如何在 Claude 和 Claude Code 中使用 Opus 5.5，涵蓋提示詞撰寫、長任務管理及結果核查。指南建議明確説明任務完成條件，在 CLAUDE.md 設定長任務何時繼續或停止，並將任務清單存入檔案追蹤進度；大型審查和遷移則可分派給子智能體，再核查各自證據。

9月18日週五
  1. Trail of Bits：AI安全研究69

    Trail of Bits 以 AI 智能體建置工具審計 Miden VM，發現高危漏洞

    Trail of Bits 為審計 Miden VM，先花六個月以 AI 智能體從零建置工具，再在審計中發現安全漏洞。工具包括 LSP 伺服器、反編譯器、靜態分析引擎及 VM 執行器的 Lean 模型；分析找出逾 400 處可改善類型驗證的位置，並發現一項可讓惡意證明者偽造 Falcon 簽章、盜取由 Falcon 金鑰對控制的 Miden 帳戶資金的高危漏洞。

9月17日週四
  1. Microsoft：Official Blog56

    Microsoft 分享自身 AI 轉型的五項經驗

    Microsoft 根據自身數百項 AI 轉型實踐，總結出五項經驗，涵蓋以業務成果為先、重設端到端流程及讓員工參與等做法。文中舉例，銷售團隊成交率提高 20%，部分供應鏈工作流程週期縮短最多 75%，而一支 9 人工程團隊在 35 天內交付初始產品版本。Microsoft Frontier Playbook 整理了數百項轉型實踐，提供按職位、工作流程或全新業務機會調整的實踐模式。

9月16日週三
  1. Together AI 研究與產品博客57

    Together AI 分享由閉源模型轉向開源模型的遷移策略

    Together AI 分享由閉源模型轉向開源模型的遷移流程，涵蓋候選模型篩選、評測、調整、決策和投產。文章建議以真實流量評估準確度、效能及成本，並逐項調整提示詞、推理設定、工具環境或模型權重。Together AI 表示，部分客戶轉用開源模型後成本減幅可達 70%；投產時可先以 10% 流量進行金絲雀部署。

9月14日週一
9月5日週六
  1. Sierra：Blog44

    呼叫中心 AI：營運及推行指南

    呼叫中心 AI 的推行應視為營運模式變革，先選定一條客戶旅程，訂立基準及擴展準則，再於真實渠道條件下驗證完整流程。指南聚焦自主語音及由 AI 路由的旅程，涵蓋渠道與系統銜接、路由和佇列安排、人手規劃、品質校準及故障復原，並指出客服代表輔助、預測和品質分析部署須採用不同切換準則。

9月2日週三
  2. Sierra：Blog58

    甚麼是 Voice AI？企業級 AI 語音智能體指南

    Sierra 的企業級 Voice AI 指南説明，AI 語音智能體可結合客戶背景及業務系統，在通話中處理要求並完成工作。企業準備程度須以整通電話作端到端評估，涵蓋延遲、輪流發言、語音辨識、上下文、操作、護欄及轉接七項測試，並納入噪音、打斷、模糊請求和整合失敗等情況。Sierra 的 tau-voice 基準以 278 項客戶服務任務，結合真實音訊及重疊發言，測試對話行為與資料庫狀態是否正確。

8月26日週三
8月22日週六
  1. Ahead of AI60

    Claude 如何為 AI 生成文字加入浮水印

    Anthropic 計劃為 Claude 模型生成的文字加入浮水印，Sebastian Raschka 詳解其文字生成與抽樣機制。浮水印在抽樣階段使用秘密金鑰和前四個詞語控制 token 選擇，毋須重新訓練模型；tournament sampling 讓系統可用金鑰和浮水印函數為文字評分，毋須重新執行 LLM。由於浮水印位置不公開，作者指出需改動多處文字才可能移除標記。

8月21日週五
  1. Hugging Face Blog63

    Hugging Face Inference Endpoints、Jobs 和 Buckets 如何支撐 Papers with Code 搜尋

    Hugging Face 以 Inference Endpoints、Jobs 和 Storage Buckets 建立 Papers with Code 混合搜尋系統，為來自 arXiv 和 Daily Papers 的超過 110,000 篇論文維護嵌入向量。

    推薦理由：文章拆解離線批次建向量與線上查詢的分工，並説明端點冷啟動時如何回退全文檢索，呈現混合搜尋進入生產環境的工程取捨。

8月18日週二
  1. Hugging Face Blog72

    Sentence Transformers v6.0 多向量（Late Interaction）嵌入模型使用指南

    Sentence Transformers v6.0 新增 MultiVectorEncoder，支援 ColBERT 式多向量檢索。文中示範載入 PyLate 與 Stanford-NLP ColBERT checkpoint、接入檢索索引，以及以同一 API 執行 ColPali 視覺文件檢索。

    推薦理由：文章對照 LateOn 與 DenseOn 在 NanoBEIR 13 個資料集的結果，並以索引體積數據呈現多向量檢索表現與儲存成本的取捨。

8月15日週六
  1. Ahead of AI38

    從零開始建構 AI 文字偵測器

    這個教學示範如何從零建構 AI 文字偵測器，並以微調 DistilBERT 分類器估算文字由 AI 生成的可能性。評分為 0-100，項目目標包括提供人類及智能體可用的 API，以及可顯示全文和個別文字區塊評分的本地瀏覽器介面。作者亦以此探討 AI 偵測器的限制，以及評分器或驗證器在 LLM 應用中的用途。

8月13日週四
  1. OpenAI News18

    GPT-5.6 建構者指南

    OpenAI 的 GPT-5.6 建構指南聚焦初創公司如何運用 GPT-5.6，更快、更具成本效益地構建 AI 智能體。指南亦涵蓋更智能的模型選擇，以及 Responses API 的新能力。

8月12日週三
  1. Hamel Husain 長文9

    AI 產品工程筆記

    Hamel Husain 列出其 AI 產品工程長文選集，題材包括 AI 評測、產品開發、LLM 評估及工程工具。他與人共同教授的 AI Evals for Engineers and PMs 已有逾 5,000 名學生，來自 500 多間公司，包括 OpenAI、Anthropic 和 Google。

8月11日週二
8月10日週一
8月7日週五
8月3日週一
7月30日週四
  1. Cursor Blog69

    Cursor 如何搭建雲端智能體環境

    Cursor 分享了為雲端智能體搭建開發環境的方法，讓雲端 VM 貼近本地開發，並支援智能體測試程式碼及維護環境。團隊以 Dockerfile 配置依賴，以 anydev 簡化服務啟動，並透過 Cursor Cloud MCP 和 Cloud Doctor 診斷、修復環境及改善工作流。去年 12 月，合併到 Cursor 單體倉庫的 PR 中約十分之一由雲端智能體編寫，如今已超過一半。

7月29日週三
7月24日週五
7月18日週六
7月16日週四