跳到正文
The Decoder· Manuel Uth·· 1 天前精選AI 評分76

OpenAI 首次向四家獨立審計機構開放內部 AI 系統進行現場審查

OpenAI opens its AI systems to four independent on-site auditors for the first time

AI 導讀

OpenAI 向 Apollo Research、METR、Transluce 和 Goodfire 四家外部審計機構開放內部 AI 系統,讓它們到場調查安全風險和模型行為。

推薦理由

審查可按任務接觸未發布模型、源代碼和訓練數據,並由獨立安全委員會監督;審計方發布結果時,OpenAI 可遮蔽機密內容或延後報告。

正文 · 繁體中文

OpenAI 正讓四間外部審計機構直接接觸其內部 AI 系統,以便在現場調查安全風險及模型行為。正如 OpenAI 公佈,該公司正與 Apollo Research、METR、Transluce 和 Goodfire 合作。這項計劃建基於早前對其監察系統進行的實地審查,並履行「白宮超級智能協議」中的承諾。

視乎各自的任務,這些機構可在 OpenAI 辦公室內接觸尚未發布的模型、原始碼、訓練數據及監察系統,亦可與開發人員進行保密交流。Apollo Research 正調查模型是否會暗中違背開發人員的意圖。METR 正檢視最大規模的強化學習訓練過程中的 AI 不當行為;強化學習是一種讓模型透過獎勵來學習的方法。Goodfire 正分析模型的內部運作過程,而 Transluce 則評估訓練後的安全檢查。OpenAI 和 Transluce 亦計劃在 2027 年初進行為期八週的後續審查。

一個獨立安全委員會負責監督整個流程、接收未經刪節的報告,並調解爭議。審計機構會獨立發布調查結果,但 OpenAI 可以刪去機密資料,並延遲發布報告,以便先處理風險。該公司預計初期或會遇上一些磨合,但已在考慮進行更多審查,包括聚焦公司文化及內部流程的審查。

沒有炒作的 AI 新聞 – 由人手精選

訂閲 THE DECODER,即可享有無廣告閲讀體驗、每週 AI 電子通訊、每年六次獨家「AI Radar」前沿報告、完整檔案庫存取權,以及留言區使用權。

來源:The Decoder · the-decoder.com