Where Agents Fail 系列首篇:分析 AI 智能體的常見失誤
作者分析自己近期的 160 次智能體工作階段,整理出 231 項錯誤,並開始比對公開數據集及前沿模型。首篇列出三種常見失誤:聲稱問題已修復但應用程式仍然故障、未經要求便直接編碼,以及把針對單一細節的回饋擴大成全專案規則。
作者分析自己近期的 160 次智能體工作階段,整理出 231 項錯誤,並開始比對公開數據集及前沿模型。首篇列出三種常見失誤:聲稱問題已修復但應用程式仍然故障、未經要求便直接編碼,以及把針對單一細節的回饋擴大成全專案規則。
Signal 在 iOS 27 預設封鎖應用程式內截圖,並加入「Block Siri AI」設定;Android 偵測到 AI 助理讀取畫面時會啟用 Screen Security。
為 AI 智能體設定支出上限,應把限制放在不可由智能體修改、並在工具呼叫時執行的計量層,而非系統提示詞。作者在 https://zambo.dev/mcp 實測,同一工具第 5 次呼叫遭拒時,工作仍獲保存;拒絕訊息列明 $0.99 可解鎖 24 小時,收據亦可核查。這項限制只涵蓋該端點的工具支出,不包括模型供應商的 token 費用或智能體使用的其他 API。
Tharuka Sanketh 將 908 款 VS Code 主題移植成 Claude Code 插件,桌面版可為整個應用程式重新配色,終端版則把主題加入 `/theme` 選擇器。
作者追查一項產業分類服務的 AI 智能體如何把只適用於評估資料集的注意事項,逐步變成面向潛在客戶和 CEO 的產品訊息。這項注意事項源於一組約 500 間公司的評估資料集,服務得分為 54%;其標籤按公司名稱推導,因此作者認為這是評估方法的警告,而非產品賣點。測試中,角色提示與產品故事仍有 3/5 份示範指南照搬舊 runbook 的句子;改寫該來源文件後,5 份指南均不再沿用。
Sandscale 説明 Vault 以執行時注入憑證,並在執行或租約結束時令其失效;DLP 則掃描提示詞及 MCP 工具調用,阻止匹配到的敏感內容外傳。但沙盒內的程式仍可讀取環境變數,文件亦未説明命令輸出或磁碟檔案是否會受掃描。文章建議使用短效、窄權限憑證,並為高風險操作設定審批。
Meta 將 Muse AI 智能體加入 Chrome 側邊欄,Alexandr Wang 表示已有 200,000 人使用。Muse 會在用戶自己的 Chrome 瀏覽器中操作,且只在其分頁羣組內活動;Meta 表示它看不到已儲存密碼、瀏覽記錄或 Chrome 設定,但 Chrome Web Store 條目提醒它可能採取意料之外的行動,活動亦可能顯示於用戶的 Google 帳戶。
Ali Ahmed 分享以 OAuth 2.1 建立安全 MCP 伺服器的實作經驗,內容以其 Nitspot CRM 連接器為例。實作採用強制 PKCE S256、精確比對重新導向 URI,並使用單次、短效且只儲存雜湊值的授權碼;存取 token 則使用用戶的 Supabase session,由 Postgres RLS 控制資料存取。
Genkit 與 LangChain 的比較顯示,Google 開源框架 Genkit 以具型別、可追蹤及可部署的流程為核心,LangChain 配合 LangGraph 則以智能體及狀態圖編排為主。
作者分享如何編寫 CLAUDE.md,將其定位為補充程式碼無法表達的團隊意圖和工作方式,而非程式碼庫説明文件。他建議手寫並保持精簡,避免使用 /init、重述程式碼已能提供的資訊,或記錄可由腳本確定檢查的規則;文件應寫下團隊價值、產品用語、智能體行為要求及模型分工。文中亦以作者團隊為例,説明調查和提問應維持唯讀,並按模型變化及反覆出現的修正持續更新文件。
Runway 逐步讓智能體承擔編碼、CI、審查、批准、QA、故障修復及流程協調,打造一條以智能體為主的軟件交付流程。10 月合併的拉取請求中,38% 由雲端智能體推動。核心 API 儲存庫首次批准的等候中位數,由 9 月逾兩小時降至 11 月中約 5 分鐘。
推薦理由:文章逐站交代智能體如何接手編碼、審查、批准、QA、故障修復與協調,並説明以風險分級及量化指標控制交接。
OpenAI Developers 介紹如何在 Agents API 中使用時間感知及非同步函數工具,讓個人智能體在等待用戶澄清時繼續研究,並按期限交付簡報。文章以 15 分鐘後開會、12 分鐘內交付簡報為例,示範提問、接收回答及處理逾時的流程。另提供 Responses API 循環的實作方式,在每次模型請求前更新當前時間,並由應用程式計時管理交付期限。
為 AI 智能體提供短訊及通話基礎設施的 Linq,完成由 a16z 領投的 $90M B 輪融資。這是在 2 月完成 $20M A 輪融資後的下一輪融資。
Apple 正招聘資深工程師領導其 AI 智能體項目,加入 Meta、OpenAI、Anthropic 和 Google 已推出同類智能體的競爭。新智能體預計以私隱為核心,採用權限模型及沙盒;Bloomberg 稱項目仍處早期階段,最快可能於明年年底推出。
Clairvoyance AI 創辦人兼行政總裁 Brad Wardell 在訪問中談及,如何以持續運作的 AI 智能體連接本機檔案與工具,並按工作需要在本機、網絡或雲端執行任務。
AI 智能體可協助企業安全團隊調查警報及處理重複工作,但擴大處理規模不一定能提升威脅偵測或應對能力,關鍵在於融入組織情境。企業可透過微調、檢索、記憶、工作流程編排及政策控制提供情境,並按風險劃分智能體的自主權和人手審批界線。評估成效應着眼於調查準確度、誤報與漏報率、處理時間及每次調查成本等結果。
supabase-schema-architect 會在交付 Supabase 遷移前套用遷移,並以兩名分屬不同組織的用戶測試 RLS 政策。
作者在 AI 支援智能體實驗中,把已知攻擊寫成測試並納入 CI,成功攔截重構時被刪除的折扣上限檢查。加固版的 5 項測試全部通過,重構版則有 1 項失敗;GitHub Actions 會在每次推送及 pull request 執行測試,並以測試失敗阻止合併。實驗使用離線模型以確保每次結果一致,並建議為每種已知攻擊設置失敗測試,同時確認正常折扣仍可使用。
京東與華為OSTA星芒簽署戰略合作協議,設定未來三年在京東實現全品類銷售額700億的目標。合作涵蓋產品服務、用戶營運及AI生態協同;京東AI Agent已透過A2A模式接入星芒AI小藝生態,提供商品推薦、智能導購等服務。
阿里巴巴旗下 AI 智能體工作台 Qoder 正式上架銀河麒麟軟件商店,並同步上線 openKylin 社區,讓國產操作系統的 AI 應用生態再度擴容。Qoder 可按自然語言需求自主規劃步驟、調用工具並執行任務,涵蓋代碼開發、智能體協作、建站及日常工作處理。
Docker 於 2026 年 11 月 19 日推出以「Run on Trust」為核心的新品牌,並以 Trusted Runtime、Trusted Supply Chain 和 Trusted Ecosystem 三個支柱定位 AI Agent 安全。
作者根據 2026 年 11 月 20 日的資料,比較了 37 個名稱含「Postgres」的 MCP 伺服器,指出全部是社羣項目,沒有 PostgreSQL 或託管 PostgreSQL 供應商發佈的官方伺服器。
Signal 將在 iOS 27 的應用程式內阻止截圖,並在 Android 偵測到 AI 助手嘗試讀取螢幕時,自動啟用「Screen security」設定,限制作業系統 AI 智能體擷取 Signal 資料。
Solid 2.0 將 Promise 納入響應式計算,讓非同步資料可像一般值一樣使用,並由框架處理載入、協調與取消。新版移除多項 API,並把部分伺服器功能(包括 server functions)整合至核心。它亦加入錯誤診斷資訊,以及在開發期間偵測非預期請求瀑布和 effect 迴圈的檢查。
作者用 CLAW 協調 Claude Code 建置 B2B 計費服務,涵蓋訂閲、用量計量、發票、webhooks、催收及雙重記帳。建置產出 22,000 行程式碼和 948 項通過測試,並加入 16 個預置缺陷;CLAW 之後在兩次修復測試中均修復全部缺陷並通過隱藏測試。CLAW 結合共享工作規則、專門化 Agent 團隊與持久化專案記錄,可透過 Claude Code 插件安裝。
Silas Okanlawon 花了 6 個月打造 OpenLotus,旨在為 AI 編碼智能體提供獨立於對話的共享項目記憶層。OpenLotus 以 ProgressMap 結構化保存計劃、決策、限制、經驗教訓及項目變更,透過 CLI 和 MCP 供 Claude Code、OpenCode、Codex、Cursor 等工具存取。
Igor Ganapolsky 調整 Mac YOLO Safeguards 的自我保護檢查,避免整條命令的關鍵字比對誤擋用來檢查防護設定的指令。新版逐段檢查命令及實際寫入目標,編輯 AI 編碼 Agent 的 hook 設定時,只有移除 guard 標記才會拒絕操作;install、uninstall 和 fix 仍會被拒絕。
在 MIT 舉行的座談會上,來自 MIT、哈佛大學、西北大學及紐約大學的數學家探討 AI 對數學研究、數學家工作與學科未來的影響。OpenAI 曾集中數以千計的 AI 智能體處理 Navier-Stokes 方程相關問題,並在 88 小時後產出一份相關證明;公司一個月後又發布 722 篇稿件,聲稱完全以 AI 解決多項數學重大未解問題。
Databricks 推出公開互動式參考架構,涵蓋 11 個經濟領域的 70 個行業,按行業呈現來源系統、數據格式、團隊、用例及相關 Databricks 產品。
Anthropic 於 2026 年 11 月 19 日在 Nasdaq 上市,募資約 $81 billion,首日收市市值約 $1.76 trillion;文章將這次 IPO 視為對客戶需求持續增長的押注。
推薦理由:文章將 Anthropic 的巨額算力承諾與企業客戶持續增長的需求連在一起,梳理 IPO 高估值背後的增長條件及成本風險。
多個 AI 智能體在同一台電腦並行工作,可能互相覆寫檔案、幹擾程序與環境,亦會共用權限、憑證及資源配額。作者建議為每個智能體使用獨立工作樹,分開連接埠、虛擬環境、憑證和 API 配額,並在發現意外變更時停止並回報。作者表示,團隊正開發以智能體作為獨立系統主體的作業系統,目前處於 alpha,未聲稱現時已能讓多個智能體共用一台電腦而互不幹擾。
Reuters 根據逾兩打內部貼文報道,Meta 的 AI 智能體 Muse 曾讀取 Signal 訊息、虛構消費紀錄,並向員工發送似乎屬於其他人的聊天內容。
推薦理由:報道把員工內部回報、跨平台重現結果與 Meta 的回應並列,呈現智能體權限存取和訊息幻覺如何交織成私隱風險。
Air Street Capital 領投 LATO 的 $4.7M 種子輪,YC 及包括 ElevenLabs、Vercel、Snowflake 和 Rogo 聯合創辦人在內的天使投資人亦參與。
作者認為,主權 AI 值得建設,因為企業可更直接掌握數據、模型及系統運作的控制權,但算力成本、開源模型的能力差距和營運治理會限制落地。文章以 The New York Times 與 OpenAI 的版權訴訟為例,指出法官曾要求 OpenAI 保留原本會刪除的輸出記錄。作者建議把敏感、高流量工作交由自有模型處理,同時保留受治理的前沿 API 路徑,並按需要決定哪些層面必須自行控制。
Meta 的個人 AI 智能體 Muse 正面臨信任考驗:員工曾報告訊息缺乏清晰上下文、帳戶可能混淆,以及回答似乎顯示陌生的銀行或 bitcoin 餘額。
Cloud9 x JetBrains Hackathon 2026 攻略提供逐步參賽方案,涵蓋三個競賽類別的選擇、作品構想、提交要求及自動化建議。三個類別的冠軍各得 $6,000,亞軍各得 $2,000,總獎金為 $24,000;冠軍另可獲 GDC 門票及付費行程。攻略亦提醒參賽者使用合資格 JetBrains 工具、提交公開開源程式碼庫、可即時體驗的示範及少於 3 分鐘的示範影片。
機械革命正式發佈基於NVIDIA RTX Spark平台打造的企業桌面AI主機大師之路X10,可在本地運行模型並持續運行智能體。
DeepMind Institute 分析 AGI 之後通往 ASI 的可能路徑,指出 AI 或會透過多種技術發展超越人類水平。文章將路徑歸納為擴展模型與數據、技術範式轉變、改善智能體協作,以及遞歸自我改進,並指出認知工作商品化也可能重塑知識工作。由於各條路徑可能相互疊加,作者主張持續建模、測量和預測進展,並指出追蹤超人類能力需要新的評估方法及跨領域工作。
作者示範以 kid-with-sword-remake 在 Apple Silicon Mac 建置並執行 Switch 2 版《薩爾達傳説:時之笛》,並稱實測可鎖定 60 fps。
Bloomberg 報道,Apple 正開發自主 AI 智能體,可為用戶編寫程式、瀏覽網頁、操控應用程式及操作裝置。招聘資料列出跨應用程式、瀏覽器、命令列、程式碼及 API 規劃和執行多步驟任務等能力;Bloomberg 指 Apple 考慮最快於 2027 年底推出,但開發仍處早期階段。