OpenAI 籌備新一輪內部安全衝刺以加固系統

為加強 OpenAI 防護，籌備下一輪安全衝刺

我們正籌劃在 OpenAI 舉行下一輪內部安全衝刺，讓新加入的研究人員和安全合作夥伴與我們的團隊合作，運用我們的模型測試並加強系統。我們正與 Cathedral 合作，其研究人員將與我們的團隊一同使用 OpenAI 的模型，挑戰我們的防禦措施，並帶來不同的專業知識和方法，以找出弱點，協助我們保護平台。

“OpenAI 與外部安全公司合作，並運用自己的模型持續測試和加強防禦措施，樹立了重要典範。每間公司都應思考如何善用這些能力。我們很期待與 OpenAI 的團隊合作，結合他們的模型和安全專業知識與我們的研究，找出弱點、測試修補方案，並加強這種持續防禦的做法。”

Gavin Kliger，Cathedral 行政總裁兼聯合創辦人

我們亦正改善我們的安全漏洞賞金計劃，包括將嚴重問題的獎勵提高至原來四倍以上。我們希望研究人員質疑我們的假設，並協助加強我們的系統，以及我們用來防禦系統的方法。

這是我們持續運用 AI 找出並修復系統弱點的工作之一。上一次衝刺展現了這種做法的成效。我們安排 25% 的產品工程師找出並修復系統弱點。工程師使用 Codex 調查發現的問題，在隔離環境中重現漏洞，並準備修補程式供審核。

我們會在這項工作的基礎上繼續推進，因為單靠傳統網絡安全防禦已不足夠。近期業界發生的事件顯示，威脅可能迅速出現，也凸顯建立持續防禦循環、在攻擊者行動前找出並修復弱點的重要性。

要保持防守方的時間窗口，機構必須運用尖端網絡安全能力加強系統防護。我們正運用最強大的模型加強自身防禦，並向Daybreak客戶提供這些模型。我們承諾在六個月內提供價值 $1 billion 的補貼使用權，支援保護基本服務和數碼基礎設施的前線防禦人員。我們亦會分享上一次衝刺的架構與經驗⁠，以及我們為提升業界和政府網絡防禦人員能力而制定的藍圖。

我們會繼續推進模型發展，運用模型加強自身系統，並擴大可信賴防禦人員的使用權限。要保持防守方的時間窗口，需要業界共同採取行動，而這項工作必須立即開始。

作者

OpenAI