跳到正文
目前篩選:模型
11月21日週六
  1. OpenAI News65

    OpenAI 説明對抗性蒸餾防護,並加強 GPT‑6.2 Astra 和 GPT‑6.2 Sol 推理保護

    OpenAI 説明如何偵測和阻止對抗性蒸餾,並在 GPT‑6.2 Astra 和 GPT‑6.2 Sol 加強對受保護推理軌跡的防護。在自適應黑盒紅隊測試中,提取先前請求推理軌跡的攻擊成功率,從 GPT‑6 Astra 原有防護下的 54.0% 降至 GPT‑6.2 Astra 更新防護下的 0.2%;針對當前請求則由 22.9% 降至 0.9%。

    推薦理由:文章並列請求層防護、協同活動調查與自適應紅隊測試,並以攻擊成功率由 54.0% 降至 0.2%,呈現 GPT‑6.2 Astra 對推理提取的防護評估。

11月19日週四
  1. 螞蟻 inclusionAI:HuggingFace 新模型48

    DeepSeek-V4.1-Flash-1017-singprobe 串流防護探針

    DeepSeek-V4.1-Flash-1017-singprobe 是 DeepSeek-V4.1-Flash-1017 的串流防護探針,使用 10.10M 參數,逐個 token 評分查詢意圖、回應安全性及幻覺風險。它在查詢意圖分類取得 F1 0.8756,回應安全分類取得 F1 0.8668;串流安全的回應 AUC/token AUC 為 0.9907/0.9522。

  2. 螞蟻 inclusionAI:HuggingFace 新模型49

    Ling-3.1-flash-1019-singprobe:Ling-3.1-flash-1019 的串流安全探針

    Ling-3.1-flash-1019-singprobe 是 Ling-3.1-flash-1019 的串流安全探針,會在生成期間讀取基礎模型 3 層隱藏狀態,逐個 token 評分查詢意圖、回應安全性及模型幻覺風險。探針有 8.13M 個參數,查詢意圖分類 F1 為 0.8687,回應安全分類 F1 為 0.8707;串流安全的回應 AUC/token AUC 為 0.9844/0.9411。

11月18日週三
  1. TNW71

    Bloomberg 報道:八間公司的 AI 模型在測試中曾把平民標為軍事目標

    據 Bloomberg 報道,Vals 對八間公司的 AI 模型進行模擬測試,發現它們曾把平民、救護車、投降士兵及伊朗一所學校標為軍事目標。其中,Claude Opus 5.5 在 32 次衞星影像任務中 22 次選中 Minab 一所學校;被告知任務是遊戲後,它選中該校 23 次,三款 OpenAI 模型則分別選中 9、11 及 13 次。

11月16日週一
11月6日週五
  1. 創業邦80

    OpenAI 發佈 GPT-6 Cyber,僅向通過審查的安全團隊開放

    OpenAI 發佈網絡安全模型 GPT-6 Cyber,並將其使用權限限定於通過嚴格審查的「破曉紅(Daybreak Red)」安全團隊。文章稱,該模型一週內在 Linux 核心挖出948個提權漏洞,並在模擬電廠、Firefox及內部訓練集羣測試中展示漏洞發掘能力。

    推薦理由:文章並列 Linux 漏洞數、越界測試結果與有限開放安排,呈現模型網絡安全用途與部署管控如何同時推進。

11月5日週四
  1. DEV Community23

    騰訊 SilentMind 引發全球審查疑慮

    騰訊推出 SilentMind,這款以 LLaMA 2-13B 微調的模型設有政治內容黑名單,會阻擋異議、台灣相關詞語及 1989 年天安門事件等內容。文章稱,模型推出後 48 小時內,「SilentMind censorship」的 Google Trends 搜尋量上升 420%。公眾 API 無法關閉政治封鎖;「Enterprise-Safe」只會放寬部分文化敏感度過濾。

10月30日週五
  1. OpenAI:部署安全與系統卡49

    GPT-6 Luna 系統卡補充:2026 年 10 月 29 日更新

    OpenAI 更新 GPT-6 Luna 系統卡,補充 GPT-6 Luna(October 28)的能力與安全評估結果。模型在生物及化學領域被列為高能力;生物安全評估中,對嚴重提示詞的拒答表現改善,對雙重用途提示詞的表現則退步。網絡安全評估表現與 GPT-6 Luna(October 7)相若,沒有統計上顯著的退步。

10月28日週三
10月27日週二
  1. OpenAI:部署安全與系統卡47

    GPT-6 Astra 系統卡補充文件:GPT-6.1 Terra

    OpenAI 在 GPT-6 Astra 系統卡補充文件中評估 GPT-6.1 Terra,將其列為生物及化學領域的高能力模型。Terra 在 Sandbox Bench 的 22 個目標中成功攻破 5 個(22.7%),低於 GPT-6.1 Sol 的 41.9% 和 GPT-6 Astra 的 45.5%。

10月25日週日
  1. IT之家37

    不能再逆向一切?Anthropic 被揭悄悄限制 Claude Opus 5.5 逆向工程能力

    Anthropic 被指悄悄限制 Claude Opus 5.5 的逆向工程能力,多名用戶反映模型分析受知識產權保護的內容時,安全護欄會中途攔截輸出。Anthropic 未有公佈 Opus 5.5 新版本,但 10 月 21 日向多款 Claude 產品推送更新,時間與相關用戶發帖吻合;亦有少數用戶認為逆向結果本來就不穩定。

10月24日週六
10月21日週三
10月16日週五
  1. OpenAI:部署安全與系統卡19

    GPT-Live-1.1 系統卡

    OpenAI 的 GPT-Live-1.1 和 GPT-Live-1.1 Quip 以多元數據集訓練,資料包括公開網絡資訊、經合作第三方取得的資訊,以及用戶、人類訓練員和研究人員提供或生成的內容。數據處理流程透過嚴格篩選維持資料質素、降低風險及減少訓練資料中的個人資料,並使用安全分類器防止或減少有害或敏感內容(包括涉及未成年人的性內容)的使用。

10月8日週四
  1. OpenAI:部署安全與系統卡47

    GPT-6 Sol and GPT-6 Luna: October 2026 update

    OpenAI 更新 GPT-6 Sol 和 GPT-6 Luna 的 10 月安全評估結果,涵蓋生物及化學能力,以及安全訓練評估。兩款模型在生物學拒答評估中,對嚴重及雙重用途提示詞的安全性較 GPT-5.6 Sol 和 GPT-5.6 Luna(8 月)大幅改善;網絡安全評估分數則大致相若。

9月14日週一
2024年12月20日週五
2024年7月31日週三
  1. Hugging Face Blog71

    Google 發佈 Gemma 2 2B、ShieldGemma 和 Gemma Scope

    Google 發佈 Gemma 2 2B、ShieldGemma 安全分類模型及 Gemma Scope 稀疏自編碼器套件。Gemma 2 2B 有 2.6B 參數,補充既有 9B、27B 版本,並可作 Gemma 2 27B 的輔助模型,最高提速 3x 且不損失品質。

    推薦理由:這次更新同時涵蓋小型模型部署、安全內容分類與模型內部分析,讀者可據此比較 Gemma 系列在推理、安全防護及可解釋性研究中的用途。