OpenAI 與 DeepMind 安全團隊合作開發從人類偏好推斷意願的演算法
OpenAI 與 DeepMind 安全團隊合作開發了一種演算法，透過人類判斷兩種候選行為何者較好，推斷人類想要甚麼。他們將減少人類撰寫目標函數的需要視為構建安全 AI 系統的一步，因以簡單代理目標代表複雜目標，或把目標設定得稍有偏差，都可能導致不良甚至危險行為。
推薦理由：材料呈現以人類比較兩種候選行為的回饋推斷其意願的演算法思路，並連結到降低複雜目標函數設定偏差的安全目標。
OpenAI / ChatGPT
全部主題OpenAI 的全部動態：GPT 系列模型、ChatGPT 與 Sora 產品、公司戰略與人事的持續追蹤。
285條精選相關主題Anthropic / ClaudeGoogle / Gemini模型發佈
最新精選
第 281–285 條 · 共 285 條OpenAI News精選AI 評分6464
OpenAI News精選AI 評分6262 OpenAI 開源 Baselines，首批包含 DQN 及三種變體
OpenAI 將內部項目 OpenAI Baselines 開源，目標是以與已發表結果相當的性能復現強化學習算法。首批發佈包含 DQN 及其三種變體，其他算法計劃在未來數月陸續釋出。
推薦理由：首批開源內容包括 DQN 及三種變體，可看出 OpenAI Baselines 的起始復現範圍；項目目標是讓強化學習算法達到與已發表結果相當的性能。
OpenAI News精選AI 評分6262 OpenAI 發佈 Universe，跨遊戲、網站及應用程式測量和訓練 AI 通用智能
OpenAI 發佈 Universe，這是一個在全球各類遊戲、網站及其他應用程式中測量和訓練 AI 通用智能的軟件平台。
推薦理由：Universe 將遊戲、網站及其他應用程式納入同一軟件平台，用於測量和訓練 AI 通用智能，呈現跨應用環境作為訓練與評估場景的設計思路。
OpenAI News精選AI 評分7171 OpenAI 發佈 OpenAI Gym 公開測試版
OpenAI 推出 OpenAI Gym 公開測試版，這是一套用於開發及比較強化學習（RL）演算法的工具包。它包含持續擴充的環境，涵蓋模擬機械人到 Atari 遊戲，並提供比較和重現結果的網站。
推薦理由：OpenAI Gym 同時提供持續擴充的強化學習環境，以及比較和重現結果的網站，呈現其面向算法開發與評估的工具定位。
OpenAI News精選AI 評分8383 OpenAI 介紹自身定位及研究使命
OpenAI 將自身定位為非牟利人工智能研究公司，目標是以最有可能造福全人類的方式推進數碼智能。OpenAI 表示，研究不受創造財務回報的需要約束，讓其能更專注於對人類產生正面影響。
推薦理由：文章並列 OpenAI 的非牟利定位、研究目標與不以財務回報為約束的表述，呈現其對組織使命的自我界定。