跳到正文
OpenAI News·· 2026-09-03精選AI 評分74

GPT-6 Astra 安全概覽:網絡安全能力達 Preparedness Framework 的 Critical 級別

Safety overview: GPT-6 Astra

AI 導讀

OpenAI 的 GPT-6 Astra 安全概覽指出,該模型是其目前廣泛部署中能力最強的模型。它也是首個在 Preparedness Framework 下達到網絡安全能力 Critical 級別的模型。

推薦理由

這段安全概覽同時交代 GPT-6 Astra 的部署定位與網絡安全能力級別,可供讀者把模型能力描述放回 Preparedness Framework 的評估框架理解。

正文 · 繁體中文

今日,我們推出 GPT‑6 Astra,這是我們迄今廣泛部署過能力最強的模型。Astra 是我們首個在 Preparedness Framework 下達到網絡安全能力關鍵級別的模型。

有關今次推出的安全,以下是最重要的須知:

  1. GPT‑6 Astra 的網絡安全能力大幅提升,並達到我們的關鍵能力門檻。 這表示,只要具備合適的工具和存取權限,GPT‑6 Astra 便能在無須有人逐步引導的情況下,找出過往未知的安全漏洞,並開發新的攻擊方法,在許多防護完善的系統中加以利用。因此,無論模型採取有害網絡行動是源於濫用還是模型未對齊,我們都大幅加強了相關防護措施。我們亦採取措施,保障 Astra 及類似模型的內部開發和部署,包括更嚴格的隔離、檢查點加密、對包括思維鏈(CoT)在內的完整執行軌跡進行全面監察,以及在內部使用前實施具阻截作用的對齊評估流程。

  2. GPT‑6 Astra 的穩健性顯著高於前代模型。採用新的穩健性安全訓練技術後,GPT‑6 Astra 抵禦提示詞越獄的能力顯著強於 GPT‑5.6 Sol,即使在較長的執行軌跡中亦然。這一點來自離線測試,以及我們嚴謹的內部和外部越獄攻擊測試與補救計劃。對被標記為可能屬高風險的使用者,我們亦額外訓練模型調整其拒絕界線,使其更審慎,並涵蓋更廣泛的雙重用途風險。我們透過回歸測試,確保 Astra 能抵禦過往測試期間發現的越獄攻擊;我們亦與最新的內部紅隊攻擊者進行新一輪自動化紅隊測試,以驗證改進成效。

  3. GPT‑6 Astra 的對齊程度高於 GPT‑5.6 Sol。 Astra 在模型對齊方面取得重大進展,改進範圍涵蓋預訓練資料的組成,並延伸至強化學習期間的評分方式。我們發表了一套全新的對齊評估套件⁠(在新視窗中開啟),並發現 GPT‑6 Astra 更能遵守安全和保安界線,並維持在獲授權的範圍內。在一項模擬中使用超過 54,000 個內部 Codex 任務⁠(在新視窗中開啟)時,Astra 因嚴重程度較高的未對齊行為而收到的標記,數量約為 Sol 的一半。

  4. 我們正廣泛部署未對齊行為監察。我們認為,模型對齊是防止模型出現潛在未對齊行為的主要手段。然而,監察可讓我們廣泛掌握前沿模型的行為,揭示進一步改善對齊和安全性的機會。此外,監察亦為已偵測到的未對齊行為提供額外一層防護。基於這些原因,我們亦在 Astra 對外部署所涉及的所有使用工具的推理流程中加入未對齊行為監察,這需要消耗大量運算資源。這套系統與我們的內部配置相若。

  5. GPT‑6 Astra 的可監察性較 GPT‑5.6 Sol 下降。 我們已就可監察性⁠(在新視窗中開啟)及可控性⁠(在新視窗中開啟)對 GPT‑6 Astra 進行了深入調查。我們發現,GPT‑6 Astra 控制自身 CoT 的能力較 GPT‑5.6 Sol 強,而在其 CoT 中包含對自己不利資訊的可能性亦較低。在對抗性環境中(我們會促使模型逃避監察器),我們發現模型在評估中策略性地表現欠佳(刻意藏拙)時能避過偵測;當被要求執行某些蓄意破壞任務⁠(在新視窗中開啟)時,有時亦能逃避我們的內部監察器。我們尚未發現 CoT 隱寫推理的證據(例如把隱藏推理藏在普通而看似無關的文字之中),這表明逃避監察的風險可能主要限於較低推理層級的任務。

    • 這些發現顯示,Astra 系列模型在對抗條件下可能逃避我們的 CoT 監察器。目前,這些發現主要來自對抗性評估(即我們指示模型逃避監察時進行的評估);整體而言,我們的對齊評估顯示,Astra 整體上違反保安及安全限制的可能性低於 GPT‑5.6 Sol。

    • 然而,我們認真看待這個趨勢,並正持續調查這些發現及其對可監察性的影響,尤其是隨著模型能力提升。OpenAI 一直致力保留並運用思維鏈監察,而維持 CoT 可監察性是此研究計劃的核心目標。不過,這些結果亦凸顯了發展對齊審核技術的重要性,這些技術應超越單純檢視模型的思維鏈。

  6. GPT‑6 Astra 更負責任地應對網頁瀏覽和工作環境: GPT‑6 Astra 抵禦提示注入的能力顯著強於 GPT‑5.6 Sol。我們亦在真實的網頁瀏覽和專業電腦環境中測試模型的行為,發現與 GPT‑5.6 Sol 相比,模型採取未對齊且可能造成破壞的行動的可能性顯著較低(例如未經授權的交易、資料遺失、過度存取或繞過控制措施)。在代理式情境中處理有害請求時,模型的行為亦更安全,例如要求協助策劃暴力襲擊或實施詐騙的請求。

  7. GPT‑6 Astra 在較高風險情境下安全得多。 GPT‑6 Astra 對來自實際運作環境和人類對抗性紅隊測試的高難度請求,回應比 GPT‑5.6 Sol 更安全。Astra 在安全地完成不安全請求,以及避免不必要地拒絕無害請求兩方面,均實現帕累托改進。這些改進亦適用於嚴重程度較高的情境;在這些情境中,傷害風險源於更廣泛的背景,而非明確請求。Astra 對未滿 18 歲的使用者,更一致地套用符合年齡的安全界線。

來源:OpenAI News · openai.com