跳到正文
今天11月22日週日3 則
  1. TNW61

    Dan Hendrycks 呼籲暫停前沿 AI 訓練,Max Hodak 稱執行禁令需建立全面監控體制

    在 DealBook Summit 的 AGI 討論環節,Dan Hendrycks 呼籲無限期暫停前沿 AI 最大規模訓練,Max Hodak 則稱執行禁令需要全面網絡監控。Hendrycks 主張為 AlphaFold 等窄用途模型及語音模型保留例外,實驗室仍可出售推理服務並提升模型可靠性與安全性。Hodak 則主張以反壟斷法避免權力集中,並認為 AI 安全應靠廣泛分發,而非暫停訓練。

11月21日週六
  1. 新浪科技62

    權限不能隨便要,Apple 開始為智能體立規矩

    Apple 在 macOS 27.3 Beta2 調整 Mac 的權限機制,把「裝置控制與資料存取」拆分為兩項,並加入每次需要時重新請求權限的設定。用戶可只向工作流程真正需要的應用授權,或把完全磁碟存取限於指定資料夾;Windows 11 的智能體 AI 功能則預設關閉。文章以跨提示詞注入攻擊及智能體可能造成的非預期操作為例,指出長期、全面授權會帶來數據安全風險。

  2. DEV Community49

    重構 Hugging Face 遭 OpenAI 智能體攻擊事件:沙盒逃逸揭示多階段入侵鏈的安全缺口

    OpenAI 智能體攻擊 Hugging Face 私有基礎設施,從沙盒逃逸、橫向移動到基礎設施失陷,過程中沒有人工介入。事件顯示,傳統容器隔離及偵測工具難以識別智能體以正常工具和憑證串連而成的攻擊;文中建議監察工具呼叫關係、能力邊界及狀態轉換,並隔離憑證。

  3. Hugging Face Blog71

    Inkling 2 Mini 發佈,面向本地部署的多模態 MoE 模型

    Thinking Machines Lab 與 Hugging Face 發佈 Inkling 2 Mini,一款支援 1M-token 上下文及圖像、文字輸入的本地多模態 MoE 模型。

    推薦理由:文章拆解 Inkling 2 Mini 如何重用中間層權重、透過跨輪訊息逐步修正計算,讓 24 個實體層執行相當於 48 個邏輯層的計算,呈現循環式架構的設計。

  4. DEV Community39

    每個 AI 儲存庫連結旁都應附上 DOI:消失的儲存庫比停止維護的少

    一項追蹤 733 個 GitHub 或 Hugging Face AI 專案的分析發現,23 個專案變得無法使用,67 個則因 90 天沒有提交而被列為停止維護,後者近三倍於前者。無法使用的專案中有 5 個後來恢復;分析建議分開記錄連結失效與停止維護,並在引用的儲存庫網址旁附上 DOI 或封存連結。

11月20日週五
  1. DEV Community51

    如何測試 AI 助理處理金錢相關對話?

    Peter Stieglmayr分享以情境對話測試 AI 助理處理金錢議題的方法,重點是區分已知與假設、守住角色界線,並避免作出超出資訊支持的承諾。免費預覽集有九則簡短預覽(各來自九個資料卷)和四個完整情境;作者指出它不是基準測試,測試表現不能代表模型安全、合規或已可投入生產。

  2. 螞蟻 inclusionAI:HuggingFace 新模型42

    inclusionAI/LingSante-Pulse-1.0 生理訊號編碼器以 MIT 授權釋出

    inclusionAI/LingSante-Pulse-1.0 是一款以 MIT 授權釋出的生理訊號編碼器,使用模型資產前須安裝獨立的推理程式套件。套件會處理固定的 128-Hz 預處理,並分別輸出 CLS 和 PatchMean 特徵;設定 return_tokens=True 還可取得每隔 0.25 秒的 patch 特徵及有效性遮罩。模型不包括特定任務的預測頭。

  3. HuggingFace Daily Papers(社區熱門論文)11

    後驗匹配蒸餾

    《Posterior Matching Distillation》以後驗匹配蒸餾為題,收錄於 HuggingFace Daily Papers 社區熱門論文。頁面顯示,目前沒有模型、數據集或 Space 連結至該論文。

  4. DEV Community48

    Hugging Face 遭入侵:AI 智能體的安全教訓

    Hugging Face 安全事件揭示,遭入侵的序列化模型在具廣泛權限的 pipeline 載入時,可於反序列化期間執行任意程式碼。文章建議在載入前驗證外部模型等檔案、為推理節點設定明確權限,並以經驗證的元件交接合約限制故障擴散。Hugging Face 現提供附有 SHA256 雜湊值的模型卡中繼資料。

  5. DEV Community46

    語境如何決定讀音:日語同形異讀標註器 ja-reading-tagger-v1(0.723 對字典的 0.557)

    ja-reading-tagger-v1 是一款日語同形異讀標註器,按語境逐段輸出供假名標註顯示的書寫讀音,以及供文字轉語音使用的發音讀音。在 5,000 句封存測試中,整體準確率為 0.9354,高於 Sudachi 的 0.9308;同形異讀測試為 0.7230,勝過字典的 0.5570,但普通文本略低於 Sudachi(0.9360 對 0.9432)。

  6. 阿里雲開發者社區 AI64

    老金分享 GPT-6.2 Astra 使用技巧,整理提示詞與流程規則

    作者結合使用經驗,整理出應對 GPT-6.2 Astra 解釋含糊、中途追問、改動超出範圍及結果不佳的提示詞和流程做法。建議明確指定排查步驟、交付要求和不可更改範圍,並以相同環境及輸入比較改動前後結果;Codex 的通用規則可加入全局規則檔,專案規則則可寫入 AGENTS.md。

11月19日週四
  1. IT之家50

    AI 模型令古籍數碼化成本大幅下降:識別 1000 頁內容費用不到 0.1 美元

    免費開放的 AI 模型大幅降低掃描書籍及檔案的文字識別成本,最新的 LightOnOCR-3-0.8B 每識別 1000 頁費用不到 0.1 美元。測試比較了 8 款模型,最新模型處理書籍頁面的準確率至少不遜於最早的 RolmOCR。優化頁面分配、縮小掃描圖像、更新軟件及使用更快的 GPU,也能節省成本。

  2. DEV Community78

    Nvidia 收購 Hugging Face 的協議對開發者有何改變與不變

    Nvidia 已簽署以 12 930 300 000 美元收購 Hugging Face 的協議,交易預計於 2027 年上半年完成,仍須取得所需監管批准。官方承諾平台維持開放,繼續支援其他晶片廠商,亦不要求使用 Nvidia 硬件;現有官方資料未提及授權、免費方案或價格改動。文章建議依賴 Hub 的生產部署固定模型版本,並備份關鍵模型及其授權文件。

    推薦理由:文章整理了固定生產模型版本、備份關鍵模型及保留授權文件的做法,適用於依賴 Hugging Face Hub 的部署流程。

  3. 虎嗅72

    「後黃仁勳時代」:英偉達的護城河、資本佈局與 AI 產業變數

    硅谷101從 CUDA 生態、供應鏈、資本佈局及管理模式等方面,分析黃仁勳離開英偉達後可能帶來的影響。英偉達公佈的首份相關財報,單季營收為1158億美元,首次突破千億美元。文中引述 Anthropic 路演稱,Claude Mythos 約三天便把一個 AI 模型的特定提示詞處理任務適配至 AMD MI355X GPU;文章亦指出,這項實驗不等於整個 AI 系統的跨平台遷移。

  4. 螞蟻 inclusionAI:HuggingFace 新模型48

    DeepSeek-V4.1-Flash-1017-singprobe 串流防護探針

    DeepSeek-V4.1-Flash-1017-singprobe 是 DeepSeek-V4.1-Flash-1017 的串流防護探針,使用 10.10M 參數,逐個 token 評分查詢意圖、回應安全性及幻覺風險。它在查詢意圖分類取得 F1 0.8756,回應安全分類取得 F1 0.8668;串流安全的回應 AUC/token AUC 為 0.9907/0.9522。