英國 AI Security Institute 梳理能力日益增強的開放權重 AI 系統風險管理方法
英國 AI Security Institute 概述開放權重通用 AI 系統的風險管理策略，涵蓋模型內防護、外部防護及程序措施。該機構指出，訓練資料篩選有助降低模型發佈風險，而具備完整模型存取權的審核可更準確評估風險，支援發佈決策。與 EleutherAI 及牛津大學合作的研究發現，從 LLM 訓練資料移除有害資料，抵禦對抗性微調的效果是訓練後加入防護的逾 10x，且未帶來顯著性能代價。
#教學/實踐
#教學/實踐
今日 0 條英國 AI Security Institute：BlogAI 評分5858
LlamaIndex：產品、工程與評測AI 評分6060 LLM OCR：錯誤變得更隱蔽，卻沒有減少
LLM OCR 降低了難讀文件的錯誤率，但漏讀或錯認可能藏在流暢、格式整齊的結果中，令錯誤更難察覺。文章區分 OCR 後校正、VLM 原生轉錄與智能體編排，並指出欄位級準確度、來源定位和驗證流程可補足頁面級字串相似度的不足。
Tessl：產品與工程博客AI 評分5050 AI 智能體轉型中的上下文由誰擁有？
AI 智能體轉型中，個人與團隊上下文應由領域專家擁有；組織級共享上下文則由 enablement 或平台團隊負責整理與品質管理，並開放各方貢獻。enablement 團隊應提供工具而非接管上下文；context engineering 屬於貼近領域知識的本地工作，loop engineering 則可較集中運作。
Ahead of AI精選AI 評分7676 GPT-6 Astra、循環式 Transformer 與推理鏈可監控性解析
Sebastian Raschka 分析 GPT-6 Astra 的電腦操作表現與循環式 Transformer 傳聞，指出 Astra 表現突出，但採用該架構尚未獲官方確認。
推薦理由：文章比較循環式 Transformer 的權重共享、計算成本與路由設計，並指出現有資料尚不足以將推理鏈可監控性的變化歸因於這種架構。
Recode China AIAI 評分5454 打造智能機械人需要大量數據，數據從何而來？
文章將具身智能機械人訓練數據分為人類數據與機械人數據，前者包括網絡及第一身視角影片、UMI 和動作捕捉，後者包括遙操作及模擬生成數據。YouTube 每日上載逾 720,000 小時影片，Open X-Embodiment Dataset 則有 1,150 至 2,000 小時實際機械人操作數據；但網絡影片欠缺力、扭矩等物理訊號，也面對人與機械人身體形態不同造成的轉移障礙。
Timothy B. Lee：Understanding AIAI 評分5252 Google 如何教大語言模型控制機械人，並帶動機械人熱潮
Google 在 2023 年宣佈 RT-2，將多模態大語言模型訓練成可直接生成機械人動作的 VLA 模型，帶動以此架構為基礎的機械人研究熱潮。文章梳理 Physical Intelligence 等團隊以動作分段、強化學習、記憶和視覺推理改善機械人操作與複雜任務能力，並探討 VLA 與世界模型的關係。
OpenAI NewsAI 評分5252 OpenAI CFO Sarah Friar 提出衡量 AI 投資回報的記分卡
OpenAI CFO Sarah Friar 提出一份用於衡量 AI 投資回報的實用記分卡。評估維度包括有用工作、每項成功任務的成本、可靠性及算力回報。
AI as Normal TechnologyAI 評分5757 理解《AI as Normal Technology》核心觀點的指南
《AI as Normal Technology》作者重述其核心框架，指出 AI 能力提升與社會影響之間存在長因果鏈，效益與風險在部署時實現。評估 AI 擴散需看實際使用人數、使用時間與用途，而非只看產品部署速度。作者又解釋，AI 能力即時部署令用户不斷面對是否採用的選擇，因此採用感覺更急速，但工作流程及組織調整仍需時間。