跳到正文

#開源生態

今日 2 條
今天10月7日週三
  1. Hacker News 熱門(buzzing.cc 中文翻譯)67

    AI 生成 PR 增加審核負擔,作者稱我們熟知的開源已死

    作者認為,AI 生成的 PR 和問題回報增加維護者的審核負擔,令多個開源專案收緊或停止接受外部貢獻,改變了開源協作方式。文中提到,curl 的真實漏洞報告比例跌至 5% 以下,tldraw、Ladybird、Hono 等專案也限制外部 PR,GitHub 則推出關閉 PR、限制 issue 開啟者等功能。

10月6日週二
  1. 英國 AI Security Institute:Blog58

    英國 AI Security Institute 梳理能力日益增強的開放權重 AI 系統風險管理方法

    英國 AI Security Institute 概述開放權重通用 AI 系統的風險管理策略,涵蓋模型內防護、外部防護及程序措施。該機構指出,訓練資料篩選有助降低模型發佈風險,而具備完整模型存取權的審核可更準確評估風險,支援發佈決策。與 EleutherAI 及牛津大學合作的研究發現,從 LLM 訓練資料移除有害資料,抵禦對抗性微調的效果是訓練後加入防護的逾 10x,且未帶來顯著性能代價。

9月9日週三
7月20日週一
3月18日週三
  1. Hugging Face Blog64

    Hugging Face 2026 年春季開源 AI 生態現況分析

    Hugging Face 的 2026 年春季報告梳理過去一年開源 AI 生態的變化,指出平台用户、模型和數據集數量均接近翻倍。2025 年,Hugging Face 增至 13 million 名用户、逾 2 million 個公開模型及逾 500,000 個公開數據集;中國模型在過去一年佔平台下載量 41%,並在月度及總下載量上超越美國。

    推薦理由:報告把平台增長、地域下載差異和衍生模型放在同一框架,呈現開源 AI 並非單一市場,而是由多個重疊的子生態構成。

2月3日週二
1月13日週一
  1. Hugging Face Blog51

    AI 智能體已經到來,Hugging Face 探討其風險與未來方向

    Hugging Face 從倫理角度分析 AI 智能體,指出自主性愈高、人類交出的控制愈多,相關風險也隨之增加,並建議不要開發完全自主的智能體。文章認為,半自主智能體的效益與風險取決於自主程度、可執行任務及人類控制方式,並梳理準確性、私隱、安全和信任等面向的取捨。作者建議建立嚴謹評估、追蹤社會影響並加強透明披露,也認為開源有助擴大參與和問責。

7月1日週六
4月13日週三