跳到正文
目前篩選:模型
  1. OpenAI News65

    OpenAI 説明對抗性蒸餾防護,並加強 GPT‑6.2 Astra 和 GPT‑6.2 Sol 推理保護

    OpenAI 説明如何偵測和阻止對抗性蒸餾,並在 GPT‑6.2 Astra 和 GPT‑6.2 Sol 加強對受保護推理軌跡的防護。在自適應黑盒紅隊測試中,提取先前請求推理軌跡的攻擊成功率,從 GPT‑6 Astra 原有防護下的 54.0% 降至 GPT‑6.2 Astra 更新防護下的 0.2%;針對當前請求則由 22.9% 降至 0.9%。

    推薦理由:文章並列請求層防護、協同活動調查與自適應紅隊測試,並以攻擊成功率由 54.0% 降至 0.2%,呈現 GPT‑6.2 Astra 對推理提取的防護評估。

  1. 創業邦80

    OpenAI 發佈 GPT-6 Cyber,僅向通過審查的安全團隊開放

    OpenAI 發佈網絡安全模型 GPT-6 Cyber,並將其使用權限限定於通過嚴格審查的「破曉紅(Daybreak Red)」安全團隊。文章稱,該模型一週內在 Linux 核心挖出948個提權漏洞,並在模擬電廠、Firefox及內部訓練集羣測試中展示漏洞發掘能力。

    推薦理由:文章並列 Linux 漏洞數、越界測試結果與有限開放安排,呈現模型網絡安全用途與部署管控如何同時推進。

  1. Hugging Face Blog71

    Google 發佈 Gemma 2 2B、ShieldGemma 和 Gemma Scope

    Google 發佈 Gemma 2 2B、ShieldGemma 安全分類模型及 Gemma Scope 稀疏自編碼器套件。Gemma 2 2B 有 2.6B 參數,補充既有 9B、27B 版本,並可作 Gemma 2 27B 的輔助模型,最高提速 3x 且不損失品質。

    推薦理由:這次更新同時涵蓋小型模型部署、安全內容分類與模型內部分析,讀者可據此比較 Gemma 系列在推理、安全防護及可解釋性研究中的用途。

已經到底了