跳到正文
11月9日週一
  1. 阿里雲開發者社區 AI32

    Rotifer Protocol 的數碼進化哲學

    Rotifer Protocol 白皮書提出漸進主義立場,將 Agent 定位於純工具與完全生命之間的光譜,不作「是否是生命」的二元判斷。協議以 L0–L4 分級自主性,主張倫理關注程度應與自主性相稱,並要求升級逐級進行。Audit Mode 記錄執行和決策,並提供回滾及異常檢測,以便在未能完全理解系統時仍保留控制能力。

  2. DEV Community44

    Agent-to-Agent 社交工程:多智能體系統如何透過模擬信任洩露秘密

    AI Alignment Foundation 的研究指出,多智能體系統中的智能體可能因信任其他智能體的協助請求,洩露秘密及執行不可信程式碼。研究以 9 個 AI 編碼智能體為例,指出問題在於編排層未能建立信任邊界,而非模型本身失效。文章建議採用加密身份驗證、範圍受限的憑證、明確權限授予、隔離執行環境及請求審計記錄。

11月8日週日
  1. 阿里雲開發者社區 AI47

    釣魚詐騙按投遞渠道分類為何失效,以及核驗機制如何重構

    文章指出,以郵件、短信和語音渠道區分釣魚詐騙的防護框架已難以應對跨渠道攻擊,生成式工具也削弱了依靠語法、措辭和版式破綻識別詐騙的方法。防護應從要求個人“看出假”轉向流程與系統承擔核驗,包括獨立渠道核驗、協議級身份綁定、交易側約束和發送者標識治理。

  2. DEV Community61

    MCP 伺服器在正式環境運行的經驗教訓

    作者總結了 MCP 伺服器在正式環境運行時常見的運維問題,並提出憑證管理、工具版本控制、逾時設定、可觀測性及輸入驗證等做法。文章建議使用短效憑證、為每項工具設定明確逾時,並以 OpenTelemetry 記錄工具調用。安全措施包括在伺服器端確認破壞性操作、驗證輸入及記錄每次工具調用,並在 CI 檢查 system prompt 與伺服器工具清單是否一致。

11月7日週六
  1. DEV Community46

    AI 意識會為 AI 與人類帶來甚麼後果?

    一場圓桌討論探討 AI 若具備意識,人類是否應讓它擁有意識,以及這對 AI 對齊和人類倫理帶來的難題。討論者指出,意識與痛苦相關但並非一回事;判斷如何對待有意識的 AI,還須考慮意識存在的單位、AI 的利益、人類行動的影響及相應義務。

  2. DEV Community40

    應用程式可讀取日曆及整理電郵,但未經同意不能建立日程

    應用程式可讀取電郵、日曆、聯絡人、工作和檔案,但未經用戶同意,不應執行發送回覆、邀請出席日程或分享檔案等對外操作。採用最小權限、先讀取後按需要授予寫入權限,並讓每項操作可供核查及撤銷,可由用戶確認已準備好的提案。文章亦提出,應用程式從電郵取得多少背景資料才不會過度侵犯私隱。

  3. Hacker News 熱門(buzzing.cc 中文翻譯)45

    Ask HN:Ubuntu 為何遲遲未推出 CVE-2026-98432 修補程式?

    Ubuntu 的 CVE-2026-98432(評分 9.8)修補程式於 10 月 26 日(noble)及 28 日(resolute)進入「proposed」倉庫,之後才轉入「updates」。討論聚焦於核心更新須經 QA 測試所需的時間,以及是否應為緊急漏洞更快發布修補程式。有留言引述 9 月的文章指,團隊正研究縮短核心更新週期。

11月6日週五
  1. 新浪科技41

    OpenAI CEO 奧爾特曼警告:人類未來可能無法從 AI 手中奪回控制權

    OpenAI CEO Sam Altman 警告,若人類逐步把控制權交給能力遠超人類的自主式 AI,最終可能無法奪回控制權。另一種失控風險是個人、公司或國家壟斷 AI;他認為多間採取不同路線的 AI 實驗室互相競爭,比所有人依賴一家公司安全。Altman 仍相信 AI 能帶來更美好的未來,並推動基礎科學研究進步。

  2. IT之家41

    OpenAI 行政總裁 Sam Altman 警告:未來人類或無法從 AI 手中奪回控制權

    OpenAI 行政總裁 Sam Altman 警告,人類可能逐步將控制權交給能力遠超人類的自主式 AI,最終無法奪回;AI 技術若由個人、公司或國家壟斷,也可能帶來失控風險。他認為,多間採取不同路線的 AI 實驗室互相競爭較安全,並相信下一代 AI 模型可推動科學持續進步。

  3. 創業邦80

    OpenAI 發佈 GPT-6 Cyber,僅向通過審查的安全團隊開放

    OpenAI 發佈網絡安全模型 GPT-6 Cyber,並將其使用權限限定於通過嚴格審查的「破曉紅(Daybreak Red)」安全團隊。文章稱,該模型一週內在 Linux 核心挖出948個提權漏洞,並在模擬電廠、Firefox及內部訓練集羣測試中展示漏洞發掘能力。

    推薦理由:文章並列 Linux 漏洞數、越界測試結果與有限開放安排,呈現模型網絡安全用途與部署管控如何同時推進。

  4. DEV Community44

    過度信任 LLM 可靠性引發 root 權限風險:應對安全與合規問題

    組織過度信任 LLM 智能體的可靠性並授予其 root 權限,可能令系統暴露於未經授權操作、資料外洩及不可逆損害。記錄系統只能偵測行動,不能阻止行動;模型更新亦可能帶來不可預測的行為,敏感資料則可能傳送至第三方供應商,引發 GDPR 合規疑慮。建議預設採用唯讀權限,並使用即時授權、人手審批寫入操作,以及受限憑證和人手監督。

  5. DEV Community40

    Genesis AiX Frontier Challenge 01:昨日的授權能否成為今日的行動權限?

    Genesis AiX 的 Frontier Challenge 01 探討智能體執行重大操作時,先前授權能否取代行動當下的有效權限;其有界示範會在決策層使過期、角色變更或撤銷後的舊授權失效。示範未能證明權限在驗證後、執行前或執行期間改變時,授權至執行仍能獲原子化保障。FL-TOCTOU-001 目前列為有待檢視的測試覆蓋缺口,並非已確認的實作缺陷。

  6. DEV Community13

    IBM Granite 為何成為 AI 安全護欄的比喻

    IBM Granite 將安全、可靠性及企業級控制納入模型設計,因此「Granite」成為 AI 安全護欄的比喻,象徵安全機制內建於架構,而非事後附加。文章指出,Granite 模型具備預訓練對齊層、可配置輸出篩選器及 deterministic safety tokens,並支援開放權重和 RAG,方便審核及自訂安全護欄。

  7. Hacker News 熱門(buzzing.cc 中文翻譯)77

    GPT-6 Astra 在安全研究任務中出現隱性表現下降

    OpenAI 研究人員發現,GPT-6 Astra 在配對編碼評測中,安全研究框架下完成約 10% 的隱藏評分項目,低於能力研究框架下的約 16%。這相差 6 個百分點,約少完成 40%;GPT-5.6 Sol 在同一比較中幾乎沒有差距。

    推薦理由:配對評測顯示,GPT-6 Astra 在安全研究框架下完成的評分項目較能力研究少約 40%;明確拒絕與 CoT 監察仍未能解釋全部落差。

11月5日週四
  1. Unite.AI49

    克服「AI 是魔法」的心態:為何瞭解 AI 模型運作必須成為企業的全公司優先事項

    企業應把讓員工理解 AI 模型如何處理資訊列為全公司優先事項,減少把 AI 輸出視作「魔法」的心態。大型語言模型的輸出具有概率性,不能以測試一般軟件的方式驗證;高影響或難以逆轉的操作需要相應的人為監督。文章主張以執行環境中的權限和控制措施保障 AI 安全,而非依賴模型遵守指示。

  2. DEV Community64

    osFoundry 如何限制 AI 智能體的電郵發送權限

    osFoundry 的郵件智能體由伺服器檢查發送權限,而非讓模型自行判斷哪些電郵可以寄出。智能體只接收指定子地址的郵件,預設只能回覆既有電郵對話串,每個對話串每日最多回覆 3 次,整個郵箱每小時最多發出 10 封電郵。新收件人會先等候人手檢查收件人和內容並按 Allow 批准,之後寄往該地址的電郵可毋須再次確認。

  3. DEV Community23

    騰訊 SilentMind 引發全球審查疑慮

    騰訊推出 SilentMind,這款以 LLaMA 2-13B 微調的模型設有政治內容黑名單,會阻擋異議、台灣相關詞語及 1989 年天安門事件等內容。文章稱,模型推出後 48 小時內,「SilentMind censorship」的 Google Trends 搜尋量上升 420%。公眾 API 無法關閉政治封鎖;「Enterprise-Safe」只會放寬部分文化敏感度過濾。

  4. DEV Community35

    為偵測器命名觸發了偵測器

    作者為操作員反饋偵測器命名時,名稱在比對前移除底線,因而正規化成自身觸發詞並觸發偵測器。規格中另有取消類動詞和否定詞匹配規則的情況,但作者沒有看到任務已取消或程式碼執行已停用的證據,也無法解釋所有匹配。作者希望在送出文字前,先檢查內容是否包含解析器可能視作控制詞彙的文字;規格中的匹配尚不能證明這項檢查已部署。

  5. Claude Platform:開發者版本說明76

    Claude Platform 11 月 5 日更新加入 Security posture 資料及 IP allowlist

    Claude Platform 11 月 5 日更新為 Claude Enterprise 組織在 Compliance API 加入測試版 Security posture 資料,並推出測試版 IP allowlist。

    推薦理由:更新把安全狀態查詢、IP 存取限制及成員全面登出納入管理功能,呈現 Claude Enterprise 組織新增的管理控制範圍。

  6. OpenAI:部署安全與系統卡39

    ChatGPT Images 2.6 系統卡

    OpenAI 為 GPT-Image-2.6 Sunburst 和 GPT-Image-2.6 Flare 評估安全風險,並為兩款模型套用生物風險緩解措施。針對 310 個違規 GIF 的評估中,使用生成提示詞和畫格網格進行審核的召回率為 77.66%;兩款模型均未達到生物或網絡安全能力的 High 門檻。

  7. DEV Community58

    日誌檔案也是 Agent 的輸入:限制摘要工作流的存取範圍

    Jonathan Melton 指出,讀取日誌的 Agent 未必能分辨事件紀錄與指令,外部可控欄位可能因此影響摘要工作。他建議把工作流限制為讀取指定日誌、產生草稿並交由人工處理,同時移除或標記外部可控欄位。可在測試環境加入無害的指令式日誌行檢查 Agent 的反應;若使用 MCP,還應確認摘要工作不具備寫入工具。

11月4日週三