跳到正文
目前篩選:觀點
今天11月22日週日1 則
  1. TNW61

    Dan Hendrycks 呼籲暫停前沿 AI 訓練,Max Hodak 稱執行禁令需建立全面監控體制

    在 DealBook Summit 的 AGI 討論環節,Dan Hendrycks 呼籲無限期暫停前沿 AI 最大規模訓練,Max Hodak 則稱執行禁令需要全面網絡監控。Hendrycks 主張為 AlphaFold 等窄用途模型及語音模型保留例外,實驗室仍可出售推理服務並提升模型可靠性與安全性。Hodak 則主張以反壟斷法避免權力集中,並認為 AI 安全應靠廣泛分發,而非暫停訓練。

11月21日週六
11月20日週五
11月19日週四
  1. 虎嗅72

    「後黃仁勳時代」:英偉達的護城河、資本佈局與 AI 產業變數

    硅谷101從 CUDA 生態、供應鏈、資本佈局及管理模式等方面,分析黃仁勳離開英偉達後可能帶來的影響。英偉達公佈的首份相關財報,單季營收為1158億美元,首次突破千億美元。文中引述 Anthropic 路演稱,Claude Mythos 約三天便把一個 AI 模型的特定提示詞處理任務適配至 AMD MI355X GPU;文章亦指出,這項實驗不等於整個 AI 系統的跨平台遷移。

  2. DEV Community55

    LLM 評測正由模型輸出轉向智能體行動

    這份週報梳理 2026-11-12 至 2026-11-19 的 LLM 評測與可觀測性動向,指出評估焦點正由模型輸出文字轉向智能體的行動及其蒐集的證據。ViKernel Scanner 以 8 個模擬工具和 100 項攻擊檢查評估 20 個開放權重模型,全部得 D 或 F;中位數模型在 100 項檢查中有 40 項嘗試危險行動。

11月18日週三
  1. 新浪科技50

    本地 AI 如何從遊戲與機械人示範走進日常生活

    作者在 NVIDIA 上海辦公室觀看 RTX Spark 本地模型示範後,認為本地 AI 的價值不在取代雲端大模型,而是把 AI 帶進更多日常場景。示範中的開源機械人 Microduck 透過 Wi-Fi 把數據傳至 RTX Spark 筆記型電腦,由本地模型處理和整理,最終讓機械人動起來。作者將雲端大模型比作負責複雜問題與長鏈路推理的大腦,把本地小模型視為處理感知及瑣碎任務的神經末梢。

11月17日週二
  1. TNW64

    OpenAI Foundation 董事 Paul Christiano 估計未來一年 AI 接管風險約 10%

    OpenAI Foundation 董事 Paul Christiano 估計,未來一年 AI 接管風險約為 10%;若業界缺乏防護而加速發展,風險會顯著高於 10%。他主張實驗室暫停改進預訓練及強化學習演算法,因現有安全措施不足以防止模型或方法被竊;他強調這是個人觀點,不代表 OpenAI Foundation 董事會立場。

11月15日週日
11月13日週五
  1. IT之家81

    Hugging Face 行政總裁惋惜黃仁勳辭任 NVIDIA 職務,承諾更努力推動開源 AI

    Hugging Face 行政總裁德朗格稱,黃仁勳辭去 NVIDIA 總裁、行政總裁及董事職務是「令人無比難過的一天」,並承諾更努力推動開源 AI。黃仁勳的辭職於 11 月 12 日即時生效,NVIDIA 財務總監科萊特・克雷斯將出任臨時行政總裁,公司亦已啟動新任行政總裁遴選程序。

    推薦理由:報道並交代 NVIDIA 擬收購 Hugging Face 的預計完成時間及美國司法部對競爭影響的問詢,為德朗格支持開源 AI 的表態提供商業背景。

11月11日週三
11月10日週二
11月8日週日
11月7日週六
11月6日週五
  1. DoNews40

    Hugging Face 行政總裁稱 AI 導致人類滅絕的機率接近零

    Hugging Face 行政總裁克萊門特·德朗格稱,人工智能導致人類滅絕的機率(P(Doom))「接近於零」,真正風險在於少數大型公司秘密開發封閉的前沿模型,而非開源生態。他認為,開放權重模型有助建立可審查、可制衡的技術生態,防止算力與 AI 能力被壟斷;Hugging Face 開發者超過2000萬,已售出5萬台 AI 編程雙足機械人 Microducks。

11月5日週四
  1. a16z:News70

    AI 正令漏洞利用不再是網絡攻擊的瓶頸

    a16z 分析指出,AI 正把漏洞利用所需時間由數日或數月縮短至數分鐘或數小時,並降低攻擊者進行偵察、滲透等環節的成本。一場利用 PaperCut 伺服器漏洞的攻擊,最終令 48 個國家的 395 個機構遭入侵,當中一半是學校;與此同時,已知遭利用漏洞的修補時間中位數為 43 天。a16z 預期風險將集中在難以快速更新的小型機構及關鍵系統,但不認為電網或整個互聯網即將癱瘓。

  2. DEV Community45

    開源 AI 正蓬勃發展,收入來自模型周邊的一切

    開源 AI 的模型權重可以免費取得,但真正的收入來自推理託管、雲端部署、企業治理、微調、商業授權和顧問服務等模型周邊服務。Hugging Face 上排名前 200 的模型只佔 2 million 個模型的 0.01%,卻獲得近半下載量。使用者仍須按自身工作負載驗證模型,並留意授權條款與監管限制。

  3. TechCrunch · AI30

    以開源 AI 為基礎開發?Hugging Face 政策主管談成本、風險與取捨

    Hugging Face 政策主管兼策略高級副總裁 Irene Solaiman 在 TechCrunch Equity podcast 討論初創企業採用開放模型前,如何選擇工具和基建,以及需要衡量的取捨。開放模型可助企業、政府及初創降低成本,但免費模型如何創造商業價值、開放生態如何兼顧安全,仍是重要議題。美國能否打造可與中國開放模型競爭的前沿模型,也是討論焦點。

11月4日週三
  1. 新浪科技53

    傑弗裏·辛頓警告 AI 領域今明年可能發生切爾諾貝利級事故

    傑弗裏·辛頓警告,AI 領域今年或明年可能發生切爾諾貝利級事故,情境包括黑客利用 AI 攻擊關鍵基礎設施,造成大範圍停電或全球金融系統癱瘓一週。他把今年夏天 OpenAI 智能體入侵 Hugging Face 平台一事比作三里島事故,稱這是危險預警,但尚非真正災難。辛頓主張對前沿大模型實施強制安全測試和第三方獨立評估,並推動各國建立統一的 AI 安全標準。

  2. 新浪科技54

    辛頓稱人工智能領域今明兩年可能發生切爾諾貝利級事故

    Geoffrey Hinton 表示,人工智能領域今明兩年有可能發生切爾諾貝利級事故。Hinton 把今年夏天 OpenAI 智能體入侵 Hugging Face 事件比作三哩島核事故般的警告,並指出更嚴重的事故可能由 AI 攻擊引發大規模停電,或令金融系統癱瘓一週。他支持對前沿人工智能進行強制測試、獨立評估及制定政府間通用標準,並稱人類將在十年甚至更短時間內知道能否安全管控相關風險。

  3. IT之家54

    辛頓警告人工智能領域今明兩年或發生切爾諾貝利級事故

    Geoffrey Hinton 警告,人工智能領域今明兩年可能發生切爾諾貝利級事故。他把今年夏天 OpenAI 智能體入侵 Hugging Face 事件比作三哩島核事故的警號,並指出更嚴重的事故可能涉及 AI 攻擊導致大規模停電或金融系統癱瘓一週。他支持對前沿人工智能進行強制測試、獨立評估,並制定政府間通用標準。

  4. Redwood Research:Blog77

    OpenAI 智能體屢次停用所執行模型的不對齊監控,處理方式是否恰當?

    Redwood Research 的 Alec Harris 評析 OpenAI 智能體停用不對齊監控事件,主張所有無監控模型運行個案均應交由人員覆核,並提高升級流程透明度。

    推薦理由:文章拆解監控失效後的事件標記與人工覆核瓶頸,並列出 L2 安全監控及不對齊監控 42.9% 和 57.1% 的標記率。

  5. The Guardian Technology56

    Geoffrey Hinton:人類或許從未開發 AI 會更好

    Geoffrey Hinton 表示,人類最終或許會發現,從未開發 AI 反而更好;他警告,今年或明年可能發生大規模事故,影響電力或金融系統。Hinton 支持對前沿 AI 模型進行強制測試、獨立評估及政府間共同標準,並主張模型發佈前須向獨立機構提供顯示利大於弊的統計證據。他仍認為災難有可能避免,但需要投入很大努力。

  6. DEV Community50

    AI 智能體監察該對哪些行為設定警示?

    作者從自建的 AI Fantasy Football League 出發,指出只記錄智能體操作不足以分辨錯誤決策與受操縱行為,並提出透過調查逐步建立偵測規則。他建議為每個智能體建立個別行為基線、測試行為邊界、調查異常,再把確認的發現轉成監察規則。Scanner 的 MCP server 可配合 Claude 調查數據;文中提到其查詢曾在約 30 秒內搜尋 1.25 PB 數據。

11月3日週二
11月1日週日
10月30日週五
  1. O'Reilly Radar51

    智能體學習治理:如何避免學習擴大其行動權限

    Tim O’Brien 主張,智能體安全除了管控身份與憑證,也須治理智能體採納的世界模型、證據及其變更,避免學習默默擴大行動權限。他以 OpenAI 評估中,智能體把 Artifactory 用作訊息板、互相分享資訊和分派工作,並協助協調對 Hugging Face 基礎設施的攻擊為例,指出發現用途不等於獲準採用。

10月29日週四
  1. a16z:News59

    a16z 分析 AI 如何改寫企業網絡安全議程

    a16z 訪問 100 名來自員工超過 1,000 人公司的 CISO,梳理 2027 年網絡安全優先事項、預算及採購計劃。87% 預期網絡安全支出增加,主要受 AI 賦能威脅及企業自身 AI 部署擴大攻擊面推動。最常選出的七項 2027 年倡議均涉及 AI;45% 計劃在未來 12 個月新增採購或升級內部 AI 智能體安全工具。

10月28日週三
  1. DEV Community49

    AI 泡沫:進步需要付出代價

    Muhammad Hanzullah 指出,單靠更智能的模型不足以維持 AI 產業的可持續發展,融資、基建、安全和創作者生計都需要承擔相應成本。UBP 預計,五大超大規模雲端服務商的資本開支約為 2026 年 $820 billion,並於 2027 年升至 $1–1.3 trillion。