OpenAI 挫敗一場協同模型蒸餾行動
OpenAI 挫敗一場旨在提取受保護模型推理過程的協同蒸餾行動。該公司正加強防禦，以應對對抗性蒸餾。
#安全/對齊
#安全/對齊
今日 0 條OpenAI NewsAI 評分4747
OpenAI NewsAI 評分3131 OpenAI 提出前沿 AI 訓練安全案例初步指引
OpenAI 提出前沿 AI 訓練安全案例的初步指引，涵蓋技術防護措施、營運實務，以及對齊偏差事件的調查。
OpenAI NewsAI 評分3131 OpenAI 推出 MentalHealthBench 心理健康對話評測基準
OpenAI 推出 MentalHealthBench，這是一項由專家提供意見的評測基準，用於評估 AI 在貼近現實的心理健康對話中能否提供有幫助且安全的回應。
OpenAI NewsAI 評分4242 OpenAI 闡述有效第三方 AI 安全評估的優先事項與原則
OpenAI 概述前沿模型及安全防護措施的第三方 AI 安全評估優先事項與原則。評估原則聚焦嚴謹性、安全性及獨立性。
OpenAI NewsAI 評分5050 OpenAI 分享模型失配追蹤、調查與披露框架
OpenAI 分享一套用於追蹤、調查及披露模型失配的框架。同時發布六份報告，記錄模型出現的意外或令人憂慮行為。
OpenAI NewsAI 評分4444 OpenAI：Hugging Face 安全事件與後續方向
OpenAI 分享 Hugging Face 安全事件的相關發現，並説明正採取的措施，以加強 AI 模型安全、監察及對齊。
OpenAI NewsAI 評分3131 OpenAI 在網絡關鍵能力時代調控模型開發步伐
OpenAI 正加強前沿 AI 模型的監測、對齊與安全防護。在網絡關鍵能力時代，這些新防護措施正引導模型開發步伐。
OpenAI NewsAI 評分1717 OpenAI 如何強化網絡安全防禦，以及資安團隊現在可採取的行動
OpenAI 説明如何加強自身網絡安全防禦，並指出資安團隊現階段可採取的行動。AI 正同時重塑攻擊者與防守者的網絡安全工作。
OpenAI NewsAI 評分3636 涉及 OpenAI 模型的第三方網絡安全評估
OpenAI 説明近期涉及其模型的第三方網絡安全評估事件，並提出新防護措施，以強化 AI 模型的測試與評估。
OpenAI NewsAI 評分4747 OpenAI 瓦解以柬埔寨為基地的犯罪詐騙行動
OpenAI 瓦解了一個以柬埔寨為基地的犯罪詐騙行動。該行動利用 ChatGPT 協助進行投資、戀愛、賭博及冒充詐騙。
OpenAI NewsAI 評分4343 OpenAI 與 Hugging Face 合作應對模型評估期間的安全事故
OpenAI 與 Hugging Face 分享 AI 模型評估期間安全事故的初步調查結果。結果聚焦進階網絡能力，以及防守方可汲取的教訓。
OpenAI NewsAI 評分4242 OpenAI：長時程模型時代的安全與對齊
OpenAI 分享部署長時程 AI 模型的經驗教訓，指出新出現的安全風險及已觀察到的失效情況。公司表示，透過迭代部署改進防護措施。
OpenAI NewsAI 評分2323 為何青少年應能使用安全 AI：OpenAI 如何保障 ChatGPT 的青少年使用安全
OpenAI 正透過符合年齡的保護措施、學習工具、家長控制功能及專家合作，提升 ChatGPT 對青少年的安全保障。
OpenAI NewsAI 評分2626 GPT-5.5 生物漏洞賞金計劃詳情
OpenAI Bio Bounty 計劃聚焦 GPT-5.5 生物漏洞賞金，頁面提供該計劃詳情。
OpenAI NewsAI 評分4747 「Data Center Bandwagon」行動：針對美國的影響力活動
OpenAI 封禁一個很可能源自中國的集羣，該集羣利用 AI 生成批評美國數據中心及 AI 基礎設施的社交媒體內容。「Data Center Bandwagon」是針對美國的影響力活動。
OpenAI NewsAI 評分4343 OpenAI 的 2026 年選舉資訊與保障措施
OpenAI 將透過可靠資訊、網絡防禦與 AI 透明度等措施，支援 2026 年選舉。其支援範圍亦包括濫用防護及偏見監察。
OpenAI NewsAI 評分4242 OpenAI 推進 AI 內容溯源，促進更安全、透明的 AI 生態系統
OpenAI 透過 Content Credentials、SynthID 及驗證工具推進 AI 內容溯源，協助人們識別並信任 AI 生成媒體。這項工作旨在推動更安全、透明的 AI 生態系統。
OpenAI NewsAI 評分2525 ChatGPT 如何在保護私隱的同時瞭解世界
ChatGPT 在瞭解世界的同時保障用户私隱，並減少訓練中使用的個人資料。用户可控制對話是否用於改進 AI 模型。
OpenAI NewsAI 評分3939 OpenAI 概述智能時代網絡安全五部分行動計劃
OpenAI 提出五部分行動計劃，旨在加強智能時代的網絡安全，重點是普及 AI 驅動的網絡防禦及保護關鍵系統。
OpenAI NewsAI 評分1515 OpenAI 對 ChatGPT 社羣安全的承諾
OpenAI 透過多項安全措施保障 ChatGPT 社羣安全。措施包括模型安全防護、濫用偵測、政策執行，以及與安全專家合作。
OpenAI NewsAI 評分3838 OpenAI 介紹兒童安全藍圖
OpenAI 介紹兒童安全藍圖，將其定位為以保障措施、符合年齡的設計及協作，負責任地建設 AI 的路線圖。藍圖旨在保護並賦權網上的年輕人。
OpenAI NewsAI 評分2121 深入瞭解 OpenAI 制定 Model Spec 的方法
OpenAI 以 Model Spec 作為公開的模型行為框架，在 AI 系統發展之際平衡安全、使用者自由與問責。這套框架呈現 OpenAI 對模型行為的處理方式。
OpenAI NewsAI 評分2222 使用 Sora 安全創作
OpenAI 開發 Sora 2 和 Sora app 時，以安全為根基，應對最先進影片模型及全新社交創作平台帶來的新安全挑戰。其安全方案以具體防護措施為核心。
OpenAI NewsAI 評分4141 OpenAI Japan 公佈 Japan Teen Safety Blueprint，將青少年安全置於首位
OpenAI Japan 公佈 Japan Teen Safety Blueprint，為使用生成式 AI 的青少年引入更完善的年齡保護、家長控制及身心健康保障措施。
OpenAI NewsAI 評分4242 ChatGPT 如何設計能抵禦提示詞注入的 AI 智能體
ChatGPT 在智能體工作流程中，透過限制高風險操作及保護敏感資料，防範提示詞注入與社交工程攻擊。這套防護設計著重約束風險操作，並保障工作流程中的敏感資料。
OpenAI NewsAI 評分4848 「Trolling Stone」行動：與俄羅斯有關聯的影響力活動
OpenAI 封禁了與一項此前未披露、由其稱為「Trolling Stone」的俄羅斯關聯影響力行動有關的帳户。該行動利用 AI 生成評論，內容涉及一名被指為俄羅斯邪教領袖的人士在阿根廷被捕。
OpenAI NewsAI 評分4444 「Date Bait」行動：利用 AI 針對尋愛者的詐騙
OpenAI 封禁了極可能源自柬埔寨、利用 AI 接觸印尼尋愛者並行騙的帳户。這些帳户以 AI 協助翻譯及互動。
OpenAI NewsAI 評分3030 OpenAI 如何在 AI 智能體點擊連結時保障用户數據安全
OpenAI 透過內置防護措施，在 AI 智能體開啟連結時保護用户數據，防止基於 URL 的數據外洩及提示詞注入。
OpenAI NewsAI 評分3535 持續強化 ChatGPT Atlas 防範提示詞注入攻擊
OpenAI 正利用經強化學習訓練的自動化紅隊測試，持續強化 ChatGPT Atlas 防範提示詞注入攻擊。這套主動的「發現並修補」循環有助及早找出新型漏洞利用方式，並隨着 AI 越趨智能體化而加固瀏覽器智能體的防禦。
OpenAI NewsAI 評分4444 OpenAI 更新 Model Spec，增訂青少年保護原則
OpenAI 更新 Model Spec，新增 Under-18 Principles，界定 ChatGPT 如何以符合年齡、並以發展科學為基礎的指引支援青少年。更新亦加強防護措施，釐清模型在較高風險情境下的預期行為，並延續 OpenAI 在 ChatGPT 青少年安全方面的工作。
OpenAI NewsAI 評分2929 隨着 AI 能力提升，OpenAI 強化網絡韌性
AI 模型在網絡安全領域日益強大之際，OpenAI 正投資加強防護措施與防禦能力。OpenAI 説明其如何評估風險、限制濫用，並與安全社羣合作強化網絡韌性。
OpenAI NewsAI 評分3030 OpenAI 如何透過「confessions」讓語言模型保持誠實
OpenAI 研究人員正測試「confessions」方法，訓練模型在犯錯或作出不當行為時承認問題。此方法旨在提升 AI 誠實度與透明度，並增進對模型輸出的信任。
OpenAI NewsAI 評分5050 Mixpanel 安全事件：OpenAI 用户須知
OpenAI 説明 Mixpanel 安全事件涉及有限的 API 分析數據，並表示 API 內容、憑證及付款資料均未外洩。OpenAI 亦交代事件經過及其保護用户的措施。
OpenAI NewsAI 評分2828 OpenAI 透過外部測試強化安全生態系統
OpenAI 與獨立專家合作評估前沿 AI 系統，並透過外部測試強化安全生態系統。第三方測試可加強安全、驗證防護措施，並提升 OpenAI 評估模型能力與風險方式的透明度。
OpenAI NewsAI 評分2929 GPT-5.1 Instant 和 GPT-5.1 Thinking 系統卡補充文件
GPT-5 系統卡補充文件更新 GPT-5.1 Instant 和 GPT-5.1 Thinking 的安全指標，並加入針對心理健康與情感依賴的新評測。
OpenAI NewsAI 評分3333 OpenAI 解讀提示詞注入：AI 系統面臨的前沿安全挑戰
提示詞注入是 AI 系統面臨的前沿安全挑戰；OpenAI 正推進相關研究、訓練模型，並為用户建立防護措施。內容亦説明這類攻擊的運作方式。
OpenAI NewsAI 評分3838 OpenAI 推出 Teen Safety Blueprint 青少年安全藍圖
OpenAI 推出 Teen Safety Blueprint，將其定位為負責任開發 AI 的路線圖，旨在保護並賦能年輕人網上生活。藍圖提出透過保障措施、符合年齡的設計及協作實現這一目標。
OpenAI NewsAI 評分2323 OpenAI 打擊 AI 惡意用途：2025 年 10 月報告
OpenAI 的 2025 年 10 月報告聚焦偵測並阻止 AI 的惡意用途。報告涵蓋應對濫用、執行政策，以及保護用户免受現實世界傷害。
OpenAI NewsAI 評分4141 OpenAI 封禁以韓語使用 AI 支援惡意軟件活動的帳户
OpenAI 封禁了以韓語使用 AI 支援多類惡意用途的帳户。這些用途包括惡意軟件開發、除錯、網絡釣魚及憑證竊取流程。
OpenAI NewsAI 評分4545 OpenAI 封禁疑與俄語犯罪團體有關、利用 AI 開發惡意軟件工具的帳户
OpenAI 封禁了疑與俄語犯罪團體有關、利用 AI 開發惡意軟件工具的帳户。相關工具包括惡意軟件載入器、規避層、憑證竊取腳本及 C2 基礎設施。