跳到正文
DoNews·· 21 小時前AI 評分55

OpenAI升級GPT-6.2 Astra與Sol安全機制,降低對抗性蒸餾下的推理提取成功率

OpenAI发布对抗性蒸馏防御措施,推理链提取成功率大幅下降

AI 導讀

OpenAI宣佈升級GPT-6.2 Astra與Sol的安全機制,以抵禦對抗性蒸餾攻擊並降低推理提取成功率。在基於6個攻擊模型的測試中,歷史請求推理提取成功率由54.0%降至0.2%,當前請求提取率由22.9%降至0.9%。防護措施包括對抗性訓練、輸入/輸出分類器及API會話隔離。

正文

11月20日,OpenAI宣布升级GPT-6.2 Astra与Sol模型的安全机制,以抵御对抗性蒸馏攻击。该攻击指未经授权利用前沿模型输出训练竞品模型,导致高风险能力绕过安全限制扩散。OpenAI通过对抗性训练、输入/输出分类器及API会话隔离等多层防护,将历史请求推理提取成功率从54.0%降至0.2%,当前请求提取率从22.9%降至0.9%(基于6个攻击模型测试)。公司今年以来持续开展执法,每周封禁数千至数万个涉蒸馏违规账号,并协同行业共享攻击指标。

免责声明:本文内容由开放的智能模型自动生成,仅供参考。

來源:DoNews · donews.com