跳到正文
11月21日週六
  1. DEV Community63

    較少上下文如何減少 AI 幻覺

    Richard Kersey 分享一種 AI 程式碼審查方法,將撰寫與核查分開,讓核查者只看待驗證主張和原始程式碼,以減少幻覺。文章引述研究指出,輸入變長會降低模型可靠性,而缺乏外部回饋時,模型通常難以修正自身推理。流程由另一個 Agent 抽取審查中的事實主張,再由第三個 Agent 對照程式碼核查;作者建議把修正輪次限制在一至兩輪,並只用於錯誤代價較高的輸出。

  2. DEV Community59

    Databricks 如何保護 AI 治理指標所用的 Golden Data

    Anil Prasad 整理了以 Databricks Unity Catalog 保護 AI 治理指標所用 golden data 的方法,涵蓋權限、讀取追蹤、版本凍結和欄位遮罩。文中提供可調整的 SQL,並提醒 lineage 只會在可從事件推斷時記錄;Delta 預設保留 30 天表格歷史和 7 天已刪除資料檔,較舊版本可能無法查詢。

  3. Browser Use67

    Browser Use 拆解瀏覽器智能體遭封鎖的四種原因及應對方式

    Browser Use 説明瀏覽器智能體遭封鎖的四種原因,分別是驗證碼、被封鎖的 IP、感測腳本標記行為,以及地區限制,並指出每類情況需要不同處理方式。在 82 個可測試網站中,7 個每次都因求解器當時尚未支援的驗證碼而封鎖,另有 6 個從美國連線時遭封鎖、改用當地代理後即可開啟。

  4. AWS Machine Learning Blog61

    Standard Bank Group 如何自動化生成式 AI 風險評估

    Standard Bank Group 與 AWS Professional Services 合作,在 AWS 上部署生成式 AI 風險評估流程,依據國際 AI 標準及銀行內部政策檢查每個應用案例並提供審批證據。

    推薦理由:文章拆解了如何把既有銀行政策轉成可重複執行的檢查,並將每項風險結果追溯至證據與政策條文。

  5. DEV Community46

    Zambo 的首個工作交接:核實 BTC 價格並交付指定接收人

    Zambo 示範如何把一次 BTC 價格查詢及其收據包裝成交接,交予指定接收人;交接包含工作摘要、目標、接收人和後續步驟。收據可透過重新計算 SHA-256 核對保存結果是否被更改,但不能證明答案正確。Zambo 每日提供一次免費交接,Day Pass 為 $0.99,可在 24 小時內不限次使用。

  6. DEV Community40

    一個平台、一位工程師:Glamora 背後的決策

    Glamora 創辦人分享獨自建成網店平台的六項工程決策,涵蓋共用 PostgreSQL 數據庫、在數據庫設定規則、以 Row Level Security 保護資料,以及按網絡狀況優化載入。平台亦設有購物助手和會計模組,分別用於瞭解顧客需求,以及核算產品和套裝的實際利潤。

  7. DEV Community50

    大規模內部工程文件的語義檢索評估集設計方法

    作者提出一套面向大規模內部工程文件的語義檢索流程,先訂立檢索契約,再以小型標註集評估有用上下文召回和固定成本下的取捨。評估集可從支援工單及 on-call 搜尋抽取 30–100 條真實問題,標註預期文件、可接受替代項和無答案案例,並追蹤 recall@k、結果新鮮度、引用覆蓋及向量數量。

  8. DEV Community65

    如何按屬性而非單一固定字串測試 AI 輸出

    文章建議以一組可驗證的屬性測試 AI 輸出,取代只比對單一固定字串,避免把措辭不同但正確的答案判錯。評測案例應從 trace 中的實際故障整理而來,Hamel Husain 建議可先檢視至少 100 條 trace。執行時先跑低成本程式檢查,再以人工標註校準 LLM judge,並按已審核的基準通過率設置建置閘門。

  9. DEV Community48

    SaafSaans:每個數字均經計算而非猜測的家庭霧霾應對計劃

    SaafSaans 為家庭制定冬季空氣污染應對計劃,按住址、家庭成員健康狀況和日常習慣,提供外出時段、室內空氣改善及交通選擇建議。Gemini 負責挑選並解釋合適的改變,所有數字則由經測試的程式碼計算;若 Gemini 無法使用,確定性排序器仍可提供數字和範本文字。應用程式支援英語、印地語和泰盧固語。

  10. DEV Community42

    AI Agent 能寫程式碼,但我們能放心讓它們在正式環境中運作嗎?

    AI Agent 已能修改程式碼、執行命令及調用 API,但具備執行能力不代表應獲準自主執行,尤其在正式環境中,操作失當可能令事故惡化。文章主張以政策與授權層分隔推理和執行,並為敏感操作加入人手審批、最小權限及審計記錄。正式環境的 Agent 亦須驗證操作結果,並記錄決策依據和執行情況。

  11. DEV Community40

    一個平台、一位工程師:Glamora 背後的決策

    Glamora 創辦人分享獨自建成網店平台的六項工程決策,涵蓋共用 PostgreSQL 數據庫、在數據庫設定規則、以 Row Level Security 保護資料,以及按網絡狀況優化載入。平台亦設有購物助手和會計模組,分別用於瞭解顧客需求,以及核算產品和套裝的實際利潤。

  12. OpenAI News65

    OpenAI 説明對抗性蒸餾防護,並加強 GPT‑6.2 Astra 和 GPT‑6.2 Sol 推理保護

    OpenAI 説明如何偵測和阻止對抗性蒸餾,並在 GPT‑6.2 Astra 和 GPT‑6.2 Sol 加強對受保護推理軌跡的防護。在自適應黑盒紅隊測試中,提取先前請求推理軌跡的攻擊成功率,從 GPT‑6 Astra 原有防護下的 54.0% 降至 GPT‑6.2 Astra 更新防護下的 0.2%;針對當前請求則由 22.9% 降至 0.9%。

    推薦理由:文章並列請求層防護、協同活動調查與自適應紅隊測試,並以攻擊成功率由 54.0% 降至 0.2%,呈現 GPT‑6.2 Astra 對推理提取的防護評估。

  13. Browser Use61

    Browser Use 兩項設定將智能體搜尋航班時間由 30.7 秒縮短至 20.7 秒

    Browser Use 表示,兩項設定把其智能體搜尋蘇黎世至倫敦三班最便宜航班的時間由 30.7 秒降至 20.7 秒。改動包括把 OpenAI 呼叫由 standard tier 改為 priority(每個 token 費用為 2 倍),以及先直接連線、網站阻擋時才改用代理瀏覽器;同一輪改動亦把 example.com 的用時由 10.3 秒降至 6.5 秒。

  14. DEV Community46

    如何將 Azure Managed Redis 整合至雲原生方案

    文章以 TypeScript 為例,説明如何將 Azure Managed Redis 整合至雲原生方案,採用 Microsoft Entra ID 驗證,並以面向生產環境的架構設計。建議透過獨立的快取服務層管理連線、序列化、TTL、鍵值、錯誤及失效處理,並以 cache-aside 模式先查 Redis,未命中時再讀取資料來源並快取結果。

  15. DEV Community49

    AI 編碼助手與 AI 編碼智能體有何不同?

    AI 編碼助手在用戶編寫程式碼時提供建議和解答,由用戶完成工作;AI 編碼智能體則會接手整項任務,讀取專案、修改檔案、執行檢查命令並修復失敗之處,用戶負責審批和檢視。多步驟、涉及多個檔案或需要執行測試的工作較適合交給智能體。使用時應開啟審批、檢視差異,並在乾淨的分支上操作。

  16. DEV Community59

    AdamW:為何將權重衰減與梯度解耦可修正 Adam

    AdamW 將權重衰減直接作用於權重,而非把 L2 項加入梯度後經 Adam 的自適應步長縮放,讓每個權重按相同比例收縮,不受各自梯度歷史影響。文章提供 PyTorch 設定示例,指出 AdamW 常見衰減值為 0.01 至 0.1,從 Adam 切換時不應沿用舊值。標準設定下,權重衰減會隨學習率排程變化,使用 cosine decay 時訓練末段的衰減效果會減弱。

  17. DEV Community38

    數秒內生成 1,000,000 份合成醫療紀錄

    作者打造兩階段生成引擎,以 Class-Conditional Gaussian Copulas 和 Decision Trees 生成合成醫療紀錄,在標準 CPU 上約 6.9 秒生成 1,000,000 份。測試顯示臨牀規則符合率為 100.0%,與真實數據集沒有重複紀錄;以合成數據訓練的分類器在真實測試數據上的 Δ ROC-AUC ≤ 0.0013。

  18. DEV Community71

    Claude 協助提出的黎曼猜想證明主張,對自動化開發者有何啟示?

    Anthropic 數學家 Levent Alpöge 稱,他與 Claude 合作發現黎曼猜想的證明,並以 Lean 撰寫;該證明據稱涵蓋更強的廣義黎曼猜想,目前仍待專家核查。Lean 可檢查論證每一步是否承接前一步,但專家仍須確認形式化表述對應的是原本要證明的命題。文章建議核對提示詞或規則、使用測試或 JSON 的 schema validator、安排人工抽查,並在未核實前標示為主張。

  19. DEV Community40

    AI 分類器自信答錯,卻無法判斷輸入是否陌生

    一般分類器遇到訓練資料以外的輸入,仍會將它判為某個已知類別;softmax 信心分數只反映輸入與已知類別的相似程度。OOD detection 會為輸入評分,低於門檻便標記,而非直接採信預測。近分佈外輸入仍難識別,常用 AUROC 和 FPR95 評估分數表現。