Anthropic 提示詞快取中,動態時間戳令每次呼叫成本增加 25%
文章指出,Anthropic 的精確前綴提示詞快取遇上每次變動的系統提示詞時間戳時,會失去快取命中,並以基礎輸入 token 價格的 1.25 倍寫入快取。工具定義會排在系統提示詞前,順序變動也會令其後的快取前綴失效;文章建議把動態資料移至用戶訊息,並按名稱排序工具。
文章指出,Anthropic 的精確前綴提示詞快取遇上每次變動的系統提示詞時間戳時,會失去快取命中,並以基礎輸入 token 價格的 1.25 倍寫入快取。工具定義會排在系統提示詞前,順序變動也會令其後的快取前綴失效;文章建議把動態資料移至用戶訊息,並按名稱排序工具。
Jose 在 AWS 上為 COCO 2017 驗證集的 5,000 張圖片測試 YOLOv8m 批次物件偵測,流水線化 PyTorch FP16、batch 32 表現最佳。
文章建議把工作範圍説明寫成可核對的規格,讓未參與銷售洽談的人也能判斷新要求是否包含在內。文件應列明每項交付成果的數量與驗收標準、不包括的工作、修訂次數和工時上限,並寫清客戶提供資料的期限、簽核安排及額外工作的報價與批准流程。文中以假設的品牌識別項目示範如何把含糊描述改寫成具體條款,並提供寄出前的檢查清單。
作者測量自家 nova-ops-nim-mcp v1.0.0 MCP 伺服器的工具定義成本,兩個工具共 790 字符,按每 4 字符估算每輪約 198 個模型 token。
Todd Lavergne 提出一份人形機械人評估清單,供開發者在購買、租用或選擇開發平台前核對可用性與適配度。清單先區分可下單、預購或早期體驗、企業部署和概念展示,再檢查價格模式、運行時間與負載等規格、SDK/API 及所購配置的開發支援,並納入遠端操作、私隱、維修和軟件支援。
作者指出,企業可把技術工作外判,但不能把項目責任交給供應商;團隊應在合作期間學懂平台,確保供應商離場後仍能自行運作。Oracle GoldenGate 經驗累積的知識,讓公司自行設計、運行及排解複寫問題,日後節省七位數;Splunk 和 AppDynamics 案例則強調以最棘手的案例驗證產品,並讓內部團隊參與 POC。
文章整理 4 種免費雲端及 GPU 運算方案,涵蓋 Kaggle、Cloudflare Workers AI、Oracle Cloud Always Free 和 Google Cloud $300 Free Trial,並比較信用卡要求及收費風險。
GitHub 可在每次推送版本標籤時,透過 GitHub Actions 根據自上一個版本以來合併的 pull request 自動產生版本發佈説明初稿。設定 .github/release.yml 可按標籤分類或排除 pull request,但分類效果取決於團隊是否一致使用標籤。
文章説明如何用 FastAPI 和 SSE 將 LLM 回應串流傳送至 Next.js,並以瀏覽器 fetch API 讀取資料流。FastAPI 0.135.0 加入 EventSourceResponse 和 ServerSentEvent;文中提供事件處理及 Stop 按鈕的示例。停止或用戶斷線時,伺服器需關閉上游模型串流,並檢查代理緩衝及逾時設定。
作者介紹透過 MCP 將本地打印機接入 AI 助手,供開發調試及運維排障時調用列印工具,並不取代業務代碼中的打印流程。工具可查詢打印機及紙型、列印 HTML、PDF、圖片或批量列印,並以 `dry_run` 將預覽與實際列印分開。使用前須確保本地客戶端正在運行;MCP 只連接本機,生產流程仍使用原有 `web-print-pdf` npm 調用。
Langfuse、Arize Phoenix 與 LangSmith 的智能體追蹤比較指出,選擇主要取決於自託管與資料存放需求、現有框架及計費方式,觀測工具本身不會令智能體更可靠。
作者提出按流程步驟是否固定、下一步是否取決於 AI 的判斷,以及是否涉及多個智能體和工作流交接,選擇提示詞、工作流、智能體或智能體系統。固定步驟適合工作流,路徑隨輸入改變時可採用設有工具和限制的智能體,多方交接則需要設置檢查點。文章建議加入人工審批和不確定時的後備流程,並以真實輸入測試自動化流程。
文章比較 Claude Code Remote Control、ChatGPT 手機 App 中的 Codex,以及作者自建的開源自託管聊天 App TaroBird,介紹如何從手機操作在電腦上執行的編碼智能體。
作者發現,重啟 tailscaled 會令使用 flannel VXLAN 的 k3s 節點失去通往其他節點 Pod 的連線,其提交的修正已在 flannel v0.28.11 發佈。
Microsoft 為 Foundry IQ 加入 Knowledge Graphs 和 Microsoft-Retriever-1,Starburst 則推出 Context Studio;這些更新凸顯單靠向量搜尋不足以支援生產環境的 RAG。
Qwen-Audio-ASR-Flash-Streaming 是通義實驗室為低延遲、高並發即時互動場景打造的語音識別模型,模型 ID 為 qwen-audio-3.0-asr-flash-streaming,RPM 為 1200。
阿里雲 Wan-Image(萬相 2.7 圖像生成與編輯)整合圖像生成與編輯,支援文生圖、文生組圖、圖生組圖、圖像編輯、多圖參考生成及交互式編輯。wan2.7-image 定價為 0.2 元/張,wan2.7-image-pro 為 0.5 元/張,兩者均按成功生成張數計費且不受分辨率影響。
cent_runtime 是一個以 C++17、C ABI 和 Python 實作的程式庫,將 Llama-2 7B 等模型的線性層連接至 CENT 架構的指令集。技術報告説明 CENT 的架構、官方 aim_simulator(Ramulator 2.0)及 cent_runtime 在 Llama-2 7B 上的驗證。
這份教學提供一個適用於 Node.js 18 或以上版本的腳本,透過 Mailchimp API 匯出帳戶中的所有受眾、聯絡人及已發送電郵宣傳活動。
平台融合穿戴設備、家用檢測儀器與電子病歷等多源數據,透過動態風險預測模型提供慢性病指標監測、風險分級預警及幹預建議。方案採用雲原生微服務架構,並以 FastAPI 和 Scikit-learn 示範部署預警服務;AI 建議須由醫生覆核,僅作輔助參考。
ChatGPT 較常引用行業媒體和評測網站,而非企業官網,因為前者通常提供較易核實、比較及直接摘錄的資訊。文章建議官網補上企業與產品定義、結構化參數、價格、適用邊界、原創數據和更新記錄,並確保搜尋爬蟲能存取。文中指出,OAI-SearchBot 與 GPTBot 用途不同,robots.txt 更新後系統調整約需 24 小時;測試時應啟用搜尋並記錄實際引用來源。
房地產物業搜尋應按新鮮度、控制及引用要求選擇檢索架構,並結合即時搜尋與持久索引,以兼顧最新資料和穩定的語義檢索。排序時應分開評估召回率與引用有效性,並以物業狀態、更新時間及來源證據過濾結果;Infrai 可作為網頁與向量檢索的 API 適配層,排序政策和引用核查則應由團隊自行管理。
作者提出一套安裝 Claude Code 技能前的 30 秒審查方法,檢查觸發描述、隨附檔案、技能會調用的工具,以及輸出是否要求先核實證據。文中以 3 個技能示範,並提醒檢查腳本、網絡或寫入操作的授權界線,以及技能是否要求先核實內容再輸出。
語音 AI 服務可透過速率限制控制與快取,減少 API 呼叫、改善延遲並遵守配額限制。文章介紹 Token Bucket、Leaky Bucket 和指數退避策略,並以 ElevenLabs TTS 每分鐘 30 次請求為例示範 Token Bucket。Python 範例會先查詢快取,未命中時呼叫 ElevenLabs 合成語音,再把音訊儲存在本機以供重用。
AI 多智能體工作流即使在某一步失敗,前序操作也可能已完成付款或預留庫存,因此單一成功/失敗標記不足以描述實際狀態。文章提出以持久化執行紀錄、冪等鍵、未知結果核對及 Saga 補償交易處理部分執行,無法確認安全下一步時則轉交人工審查。作者主張將 Agent 的決策與外部操作權分開,讓協調層管理執行和復原。
測試顯示,Qwen2.5-1.5B-Instruct 採用摘要優先方式,每 24 項任務答對 16 項,略低於截短文本的 17 項,並耗用其 2.6 倍 tokens;完整文本則答對 9 項。摘要沒有消除模型對 issue 412 的偏執,截短文本以較低成本取得相近準確度,因此作者建議維持截短文本為預設做法。
Basalt 的操作導覽解釋其 776 tok/s 表現,以及為何需要獨佔一張 GPU:整個 KV cache 鎖定於單張 GPU 的 VRAM,不會分片至其他 GPU。
作者分析了自己發布的 191 個標題,發現 53.4% 由兩句組成,51.8% 以「My」開頭,但符合遭禁止句式的只有 12 個,且全在規則實施前。只檢查最近 10 個標題無法掌握整體重複模式;作者建議統計完整歷史,並優先採用較少出現的標題結構。
AHT(Average Handle Time,平均處理時間)是客服人員處理每次客戶聯絡所需時間的平均值,按通話時間、等候時間及通話後工作時間總和除以處理的聯絡數計算。AHT 沒有普遍適用的理想值,應先統一計算定義,再按聯絡類型設定公平目標。單看平均值可能掩蓋差異,亦應參考中位數及問題解決情況。
這份指南列出遷移 OpenAI 相容 API 前的驗證方法,建議按服務、base URL、endpoint、確切 model ID、SDK 版本及所需功能逐項測試。
火山引擎上線 Seedance Managed Agent,作者實測它可協助完成腳本設計、參考圖生成、分鏡影片製作及品牌設計。作者以自然語言提出需求並按需要修正產出,無須自行撰寫提示詞,Agent 會設計圖像和影片提示詞。火山方舟網頁會話中的圖片和影片素材只保留 24 小時,作者亦指出在聊天介面整理素材較麻煩。
GEO 優化先用麥豆免費 GEO 工具監測品牌在豆包、DeepSeek、千問、元寶等 AI 平台的認知基線,再依序建立品牌知識庫、創作內容、精準分發及優化官網。完成一輪後,持續監測 AI 可見度、品牌引用率及新增引用來源,並據此調整知識庫、內容方向和分發渠道。
阿里雲的 Qwen-Audio-3.1-Realtime 是端到端實時全雙工語音模型,支援文字及音訊雙模態輸入與輸出、工具調用、聯網搜尋和聲音複刻。
GPT-Live-1.1 按會話時間而非 token 收費,活躍時段每分鐘 $0.05、待機時段每分鐘 $0.02,並按秒計費。待機只適用於推理已暫停的 WebRTC 會話,後端模型與工具調用則按各自費率另行收費。以每天開啟 8 小時、實際交談 40 分鐘的桌面助理為例,不設待機的日費為 $24.00,啟用待機為 $10.80,使用間關閉會話則為 $2.00。
Kling 3 API 教學示範如何提交首尾影格生成任務,確認任務 ID 後查詢狀態並下載影片。流程使用 kling-v3 路由,需從實際回應或供應商記錄確認任務 ID;若下載失敗,應沿用已儲存的任務結果,不要重新生成影片。
GPT-Live-1.1 按語音工作階段時間計費,活躍時每分鐘 $0.05、待命時每分鐘 $0.02,並按秒計算;後端模型及工具費用另按各自標準收取。待命費率只適用於推理暫停中的 WebRTC 工作階段,並需設定喚醒策略和閒置逾時;WebSocket 和 SIP 工作階段則按連線時間收取活躍費率。文中以客服、瀏覽器語言導師及常駐助理的算例,展示通話時長、閒置時間與關閉工作階段對費用的影響。
作者把每日科技新聞簡報從 Telegram 搬到網站,並將網站打造成新聞室,由 Mini 撰寫和朗讀新聞、Lily 整理模型資料、Ruan 蒐集模型動態。網站以 Cloudflare 提供場地,GitHub 分開存放建站程式與內容記錄,音訊則存放於 Cloudflare R2。
Ruby2Shell(CVE-2026-132825)是 Ruby 字串大小寫轉換中的單字節 heap 溢位,研究人員稱其可能令未修改的 Rails 應用程式遭未經驗證的遠端程式碼執行攻擊。
GPT-Live-1.1 的語音費用按時間而非 token 計算,活動時段每分鐘 $0.05、待機時段每分鐘 $0.02,並按秒計費;後端模型及工具另行收費。待機費率只適用於推理暫停的 WebRTC 連線,WebSocket 和 SIP 連線則按活動費率計算。文章以多個情境試算費用,並建議長時間停用時關閉連線,以及記錄最終的 usage.seconds。
Ruby2Shell(CVE-2026-132825)是 Ruby 字串大小寫轉換中的一字節 heap overflow;研究人員稱,標準 Rails 應用程式可在無需驗證下遭利用,導致遠端程式碼執行(RCE)。