跳到正文

#部署/工程

今日 16 條
10月3日週六
  1. LlamaIndex:產品、工程與評測22

    按揭文件自動化:改造貸款處理流程

    按揭文件自動化把貸款申請、核保、驗證及成交中的人工文件工作,轉化為結構化、由機器處理的流程。系統結合機器學習、電腦視覺與結構化解析,辨識文件版面並抽取符合預設 schema 的資料,不止進行文字識別。抽取結果會按業務規則、核保準則及外部數據來源驗證,並以信心評分和人工審核處理模糊或不確定個案。

  2. Google Developers Blog60

    Google Colab 納入 Google AI 訂閲方案,訂户可享高級權益

    Google 將高級 Google Colab 權益納入 Google AI 訂閲,訂户可優先使用更快的加速器和效能更強的機器。Google AI Ultra 訂户另可使用不中斷的背景執行和 Premium GPU,讓長時間訓練無須保持瀏覽器分頁開啟。現有 Colab 訂閲不變,Google AI 訂閲權益可疊加;相關權益將於未來數週向 Colab 支援國家的 Google AI 訂户推出。

  3. Every:最新文章44

    我如何打磨由 AI 智能體構建的軟件

    作者把親自使用 AI 智能體所構建的軟件、判斷體驗並反覆修整,視為 compound engineering 的最後一步。他以 `/ce-polish` 檢出分支、啟動開發伺服器,並在編輯器中與智能體並排查看應用程式。在 Cora Brief 中,他透過 Monologue 指出版面留白過多、卡片需要更緊湊,智能體調整版面後,應用程式隨即熱重載。

10月2日週五
  1. Google Research64

    Google Research 介紹採用 TEE 的新一代聯邦學習系統

    Google Research 公佈採用可信執行環境(TEE)的新一代聯邦學習系統,讓伺服器端的數據匿名化處理可供驗證和審計。設備上傳的訓練數據只會交由符合預先授權存取政策的 TEE 工作負載解密處理,相關政策亦發布於 Rekor 公開透明日誌。Gboard 已採用新系統推出英文及日文下一詞預測模型,模型私隱保障更強、準確度更高,計算時間亦較舊系統大幅縮短。

    推薦理由:文章比較舊式聯邦學習與 TEE 架構在服務端可驗證性上的差異,並交代存取政策公開記錄機制及 Gboard 部署後在私隱、準確度和訓練速度上的變化。

  2. The Verge · AI62

    微軟以仿生設計讓資料中心融入自然環境,能否減少社區反感?

    微軟計劃將仿生設計擴展至更多資料中心,透過原生植被、生態修復及植物緩衝帶,減輕設施對周邊社區與環境的影響。方案將推展至美國及德國超過 20 個據點,並涵蓋美國所有新項目及全球逐步增加的項目。部分居民及環保人士認為,生態修復無法抵銷資料中心擴張帶來的能源、水資源與排放壓力。

  3. OpenRouter:Announcements62

    OpenRouter 教學:客服機械人的低成本優先 FAQ 模型路由

    OpenRouter 的指南介紹客服機械人採用低成本優先模型路由的方法,讓較小、成本較低的模型處理常見問題,並把較難或不確定的請求升級至能力較強的模型。指南比較靜態規則、分類器分流及按信心門檻檢查答案三種方式,並指出模型備援清單只會在請求出錯後重試,答案品質檢查及升級決策須由應用程式負責。指南建議比較答案接受率、包括被棄用嘗試的總成本、升級率及整輪延遲,並只在評估顯示升級能修正失敗答案時加入升級。

  4. AWS Machine Learning Blog66

    如何用 Amazon Bedrock AgentCore 構建環境式智能體,串聯事件觸發與人在迴路工作流

    Amazon Bedrock AgentCore 的參考實作把 Amazon S3 上傳或排程事件轉成智能體工作,並讓智能體在需要澄清、審批或覆核時暫停等待人員回應。

    推薦理由:文章把事件來源、AgentCore 執行與人在迴路處理串成參考架構,並清楚區分樣本內建能力與需自行擴展的訊號來源。

10月1日週四
  1. The Decoder51

    Anthropic 向美國民用機構提供 Claude for Government,與五角大樓的爭端仍在持續

    Anthropic 現向美國聯邦及州級民用機構提供 Claude for Government,平台自 7 月起開放測試,並運行於 FedRAMP High 環境,這是美國最嚴格的雲端安全級別。機構按用量付費並設有固定上限,管理員可按部門設定預算與模型存取權限;敏感操作須雙人批准,對話保留在機構裝置上。五角大樓禁止 Claude,爭端源於 Anthropic 拒絕撤除對大規模監控及自主武器的禁令。

  2. OpenRouter:Announcements71

    如何在 CI 中以 LLM 評測結果把關 Pull Request

    OpenRouter 的指南示範如何把固定 LLM 評測集接入 GitHub Actions,並按通過率阻止不合格的 Pull Request 合併。指南建議把評測案例與提示詞一同存入版本庫,以多次抽樣的多數結果評分,並在未變動的 main 分支上重複執行以校準門檻。CI 應在 job 層級按相關檔案觸發,並把路徑篩選 job 和評測 job 都設為必需狀態檢查,以免跳過評測後仍可合併。

  3. OpenRouter:Announcements65

    如何設定模型信心閾值,將低信心請求轉交較強模型

    OpenRouter 的指南説明,如何讓模型回報自評信心分數,並按閾值把低分請求轉交較強模型處理。指南建議用結構化輸出要求模型提供數值信心欄位,再以自有流量中不同分數區間的錯誤率設定閾值;分數適合用來排序,不代表經校準的正確機率。上線後應監察升級比例及未升級回答的錯誤率,並在模型或流量變化時重新調整,同時權衡準確度、成本和延遲。

9月30日週三