WebGPT：透過網頁瀏覽提升語言模型的事實準確性
OpenAI 微調 GPT-3，讓它透過文字式網頁瀏覽器更準確地回答開放式問題。
#OpenAI
#OpenAI
今日 37 條OpenAI NewsAI 評分5959
OpenAI NewsAI 評分3535 OpenAI 宣佈推出 OpenAI Residency
OpenAI 宣佈推出 OpenAI Residency，作為支持及培育 AI 人才工作的一部分。
OpenAI News精選AI 評分7171 OpenAI API 開放使用，不再設候補名單
OpenAI 宣佈其 API 現已不設候補名單，服務可用範圍進一步擴大。公告指出，擴大開放是安全方面進展促成的。
推薦理由：OpenAI API 免候補即可使用的變化，連結到安全方面的進展，提供了理解其擴大開放背景的線索。
OpenAI NewsAI 評分5454 Helen Toner 加入 OpenAI 董事會
OpenAI 宣佈任命 Helen Toner 加入其董事會。
OpenAI News精選AI 評分7373 OpenAI Codex 改進版透過 API 開放私人測試
OpenAI 發佈改進版 Codex，這套 AI 系統可將自然語言轉換為程式碼，並自今日起透過 API 開放私人測試。
推薦理由：公告同時交代 Codex 的自然語言轉程式碼定位和 API 私人測試安排，讀者可掌握其用途與當時的接入範圍。
OpenAI News精選AI 評分6464 OpenAI 發佈 Triton 1.0：面向神經網絡的開源 GPU 程式設計語言
OpenAI 發佈 Triton 1.0，這是一種用於神經網絡 GPU 程式設計的類 Python 開源語言。它讓沒有 CUDA 經驗的研究人員也能編寫高效 GPU 程式碼；OpenAI 稱，多數情況下這些程式碼可媲美專家所能產出。
推薦理由：Triton 1.0 以類 Python 語言降低神經網絡 GPU 程式設計門檻，讓沒有 CUDA 經驗的研究人員也能編寫高效程式碼，OpenAI 稱多數情況下可媲美專家產出。
OpenAI NewsAI 評分3737 OpenAI 透過精選資料集微調改善語言模型行為
OpenAI 最新研究發現，使用小型精選資料集進行微調，可改善語言模型在特定行為價值方面的表現。
OpenAI NewsAI 評分3434 OpenAI Scholars 2021：最終項目
OpenAI 宣佈，2021 屆 OpenAI Scholars 已完成為期六個月的導師計劃，並在 OpenAI 提供津貼及支持下完成開源研究項目。
OpenAI NewsAI 評分5252 美國眾議員 Will Hurd 加入 OpenAI 董事會
OpenAI 宣佈，美國眾議員 Will Hurd 已加入董事會。OpenAI 表示，發展造福全人類的通用人工智能，需要公共政策和技術方面的專長。
OpenAI NewsAI 評分5555 GPT-3 透過 OpenAI API 為逾 300 款應用提供 AI 功能
逾 300 款應用透過 OpenAI API 提供由 GPT-3 驅動的 AI 功能。功能包括搜尋、對話、文字補全及其他進階 AI 功能。
OpenAI NewsAI 評分5252 OpenAI 發現 CLIP 中能響應同一概念多種呈現方式的神經元
OpenAI 發現，CLIP 中有些神經元在同一概念以字面、符號或概念方式呈現時，均會作出反應。這或可解釋 CLIP 為何能準確分類出人意料的概念視覺呈現，也有助理解 CLIP 及類似模型學到的聯想與偏見。
OpenAI NewsAI 評分5050 OpenAI 將 Kubernetes 叢集擴展至 7,500 個節點
OpenAI 將 Kubernetes 叢集擴展至 7,500 個節點，為大型模型及快速小規模迭代研究提供可擴展基礎設施。支援的模型包括 GPT-3、CLIP 和 DALL·E，研究例子則有《Scaling Laws for Neural Language Models》。
OpenAI News精選AI 評分7474 OpenAI 推出 CLIP，以自然語言監督學習視覺概念
OpenAI 推出神經網絡 CLIP，讓模型透過自然語言監督高效學習視覺概念。只需提供待識別的視覺類別名稱，CLIP 即可套用於任何視覺分類基準，其零樣本能力類似 GPT-2 和 GPT-3。
推薦理由：CLIP 將自然語言監督與視覺分類連接，並以類別名稱作為套用基準的入口，呈現其零樣本使用方式。
OpenAI News精選AI 評分7171 DALL·E：根據文字生成圖像
OpenAI 訓練了名為 DALL·E 的神經網絡，可根據文字描述生成圖像，涵蓋自然語言能表達的多種概念。
推薦理由：材料指出 DALL·E 可按文字描述生成涵蓋多種自然語言概念的圖像，清楚交代了其輸入形式與生成範圍。
OpenAI NewsAI 評分1414 OpenAI 組織更新：過去一年經歷顯著變革與增長
OpenAI 表示，公司過去一年經歷了顯著變革與增長。
OpenAI News精選AI 評分7272 OpenAI 將 GPT-3 技術授權予 Microsoft，供其產品與服務使用
OpenAI 已同意將 GPT-3 授權予 Microsoft，供 Microsoft 自家的產品與服務使用。
推薦理由：這項協議交代 GPT-3 技術將以授權方式供 Microsoft 用於其產品與服務，呈現 OpenAI 對外提供技術的具體安排。
OpenAI News精選AI 評分6161 OpenAI 以人類反饋訓練更擅長摘要的語言模型
OpenAI 將人類反饋強化學習用於訓練語言模型，以提升模型的摘要能力。
推薦理由：這項研究把人類反饋納入摘要模型訓練，呈現以強化學習提升語言模型摘要能力的一條具體研究路徑。
OpenAI NewsAI 評分2828 OpenAI Scholars 2020：最終項目
OpenAI Scholars 第三屆學員在虛擬 Demo Day 展示最終項目。項目呈現了他們過去五個月的研究成果。
OpenAI NewsAI 評分3535 Procgen 與 MineRL 競賽
OpenAI 宣佈與 AIcrowd、Carnegie Mellon University 及 DeepMind 共同籌辦兩項 NeurIPS 2020 競賽，使用 Procgen Benchmark 和 MineRL。
OpenAI News精選AI 評分7272 OpenAI 發佈 API，供存取其新開發的 AI 模型
OpenAI 發佈 API，供存取其開發的新 AI 模型。
OpenAI NewsAI 評分5555 OpenAI 發佈 AI 效率分析：ImageNet 訓練所需計算量每 16 個月減半
OpenAI 發佈一項分析，指出自 2012 年起，達到相同 ImageNet 分類表現所需的神經網絡訓練計算量每 16 個月減半。與 2012 年相比，訓練至 AlexNet 水平所需的計算量已減少 44 倍，而 Moore’s Law 對應的成本改善為 11 倍。分析認為，對近期投入較多的 AI 任務，算法進展帶來的收益高於傳統硬件效率提升。
OpenAI News精選AI 評分7171 OpenAI 發佈 Jukebox 音樂生成模型，並公開模型權重與程式碼
OpenAI 發佈 Jukebox，這是一個能以原始音訊形式生成多種曲風及藝人風格音樂的神經網絡模型，也能生成初階演唱。OpenAI 同時公開模型權重、程式碼，以及用於探索生成樣本的工具。
推薦理由：權重與程式碼連同樣本探索工具一併公開，讓讀者可直接接觸模型資源，並瞭解其生成涵蓋多種曲風、藝人風格及初階演唱。
OpenAI NewsAI 評分3939 OpenAI 參與探討如何提升 AI 開發的可驗證性
OpenAI 參與一份由 30 個機構、58 位共同作者撰寫的報告，列出 10 項提升 AI 系統相關主張可驗證性的機制。開發者可藉此提供 AI 系統安全、具保安性、公平或保障私隱的證據；用户、政策制定者及公民社會則可用來評估 AI 開發流程。
OpenAI NewsAI 評分5151 OpenAI 推出 Microscope 神經網絡可視化集合
OpenAI 推出 Microscope，收錄 8 個常用於可解釋性研究的視覺「模型生物」中每個重要層和神經元的可視化。這些可視化讓研究者更容易分析神經網絡內形成的特徵；OpenAI 希望它能協助研究界理解這些複雜系統。
OpenAI News精選AI 評分6767 OpenAI 宣佈將深度學習框架統一採用 PyTorch
OpenAI 宣佈將其深度學習框架統一採用 PyTorch。
推薦理由：這項公告提供 OpenAI 深度學習框架選擇的背景，並明確指出其組織方向是統一採用 PyTorch。
OpenAI News精選AI 評分6666 OpenAI 研究指出 CNN、ResNet 與 Transformer 出現雙重下降現象
OpenAI 的研究指出，雙重下降現象會出現在 CNN、ResNet 和 Transformer 中。隨模型規模、數據量或訓練時間增加，性能會先改善、再變差，然後再次改善。這種情況常可透過謹慎的正則化避免，但其成因尚未完全理解，後續研究仍是重要方向。
推薦理由：研究在 CNN、ResNet 與 Transformer 中觀察到雙重下降，並指出性能會隨模型規模、數據量或訓練時間增加而先升、再降、再升。
OpenAI NewsAI 評分5151 OpenAI 發佈 Procgen Benchmark，提供 16 個程序生成環境
OpenAI 發佈 Procgen Benchmark，提供 16 個易於使用的程序生成環境。該基準用於直接衡量強化學習智能體學習可泛化技能的速度。
OpenAI NewsAI 評分5050 OpenAI 推出 Safety Gym：衡量強化學習智能體訓練期間遵守安全約束的進展
OpenAI 推出 Safety Gym，這套環境與工具用於衡量強化學習智能體在訓練期間遵守安全約束的進展。
OpenAI News精選AI 評分7878 OpenAI 發佈 GPT-2 1.5B 參數版本及程式碼、模型權重
OpenAI 發佈 GPT-2 分階段發布的最後一版，亦是參數量 1.5B 的最大版本，並提供可協助檢測 GPT-2 模型輸出的程式碼與模型權重。雖然自 8 月起已有更大型語言模型發布，OpenAI 仍按原計劃完成分階段發布，希望將完整流程作為未來強大模型開發者的測試案例。OpenAI 亦表示持續與 AI 社羣討論負責任發布。
推薦理由：這次發布把 GPT-2 的分階段公開流程作為後續強大模型發布的測試案例，也説明提供程式碼與權重的用途是協助檢測模型輸出。
OpenAI News精選AI 評分6969 OpenAI 以神經網絡訓練機械手解魔方
OpenAI 訓練兩個神經網絡，讓仿人機械手解開魔方。網絡完全在模擬環境中訓練，使用與 OpenAI Five 相同的強化學習程式碼，並結合新技術 Automatic Domain Randomization（ADR）。系統能應對訓練中未曾遇到的情況，例如被毛絨長頸鹿玩偶戳碰；OpenAI 指出，這展示了強化學習可用於需要前所未有靈巧度的現實世界問題。
推薦理由：這項工作以全程模擬訓練的兩個神經網絡讓仿人機械手解魔方，並用 ADR 應對訓練中未見情況，呈現強化學習應用於實體操作的方法。
OpenAI NewsAI 評分3737 OpenAI Scholars 2020 開放申請
OpenAI 現正接受第三屆 OpenAI Scholars 的申請。
OpenAI News精選AI 評分7070 OpenAI 以人類偏好微調 GPT-2
OpenAI 使用人類回饋微調 774M 參數的 GPT-2，使模型在多項任務上匹配外部人類標註者的偏好。摘要任務需 60k 個人類標註，標註者偏好整句照抄輸入，模型因此學會複製；多種風格的續寫任務則需 5k 標註。OpenAI 指出，標註者的偏好並不總與自身一致，並希望藉由讓安全技術更接近「機器與人交談」的一般任務，提取人類價值資訊。
推薦理由：這項實驗對比摘要與續寫任務的標註需求，並呈現標註者偏好整句照抄輸入時，微調模型也會學會相同行為。
OpenAI NewsAI 評分5656 OpenAI 觀察到多智能體互動中湧現工具使用
OpenAI 觀察到，智能體在簡單的捉迷藏遊戲中逐步發展出更複雜的工具使用方式。透過在新的模擬捉迷藏環境中訓練，智能體形成了六種不同策略及反制策略，其中一些是研究者此前不知道環境能支援的。這種簡單環境中自監督下湧現的複雜性，進一步暗示多智能體共同適應未來或能產生極其複雜且智能的行為。
OpenAI NewsAI 評分3535 OpenAI 測試神經網絡分類器抵禦未預見對抗攻擊的穩健性
OpenAI 開發出一種方法，用於評估神經網絡分類器能否可靠抵禦訓練期間未見的對抗攻擊。該方法提出新指標 UAR（Unforeseen Attack Robustness），評估單一模型面對未預期攻擊時的穩健性。OpenAI 指出，評估應涵蓋更多樣的未預見攻擊。
OpenAI News精選AI 評分6868 GPT-2 六個月後續：OpenAI 發佈 774 million 參數語言模型
OpenAI 發佈 774 million 參數的 GPT-2 語言模型，接續 2 月推出的 124M 小型版及 5 月分階段發佈的 355M 中型版。OpenAI 與合作夥伴及 AI 社羣研究模型可能遭濫用及帶來社會效益。OpenAI 亦發佈開源法律協議，方便組織之間建立模型共享合作，並公佈一份關於與更廣泛 AI 研究社羣協調發表規範經驗的技術報告。
推薦理由：從 124M、355M 到 774 million 參數模型的分階段發佈，連同模型共享協議和發表規範協調經驗，呈現 GPT-2 後續開放與社羣協作的脈絡。
OpenAI News精選AI 評分8888 Microsoft 向 OpenAI 投資 $1 billion，並合作建設 AGI 平台
Microsoft 向 OpenAI 投資 $1 billion，並合作在 Microsoft Azure 建設可擴展至 AGI 的硬件與軟件平台。雙方將共同開發新的 Azure AI 超級計算技術，Microsoft 亦會成為 OpenAI 的獨家雲端供應商。雙方還將共同進一步擴展 Microsoft Azure 支援大規模 AI 系統的能力。
推薦理由：這項合作涵蓋投資、Azure AI 超級計算技術開發與獨家雲端供應，呈現 OpenAI 建設 AGI 平台所涉及的資金、技術與雲端合作安排。
OpenAI NewsAI 評分2626 OpenAI：為何負責任的 AI 開發需要安全合作
OpenAI 的政策研究指出，AI 業界合作制定安全規範，是促進負責任 AI 開發、確保系統安全且有益的重要條件。研究提出四項現時可用的策略：溝通風險與效益、技術協作、提高透明度，以及激勵標準。但競爭壓力可能引發集體行動問題，令 AI 公司在安全方面投入不足。
OpenAI NewsAI 評分2323 OpenAI 2019 機械人研討會
OpenAI 於 2019 年 4 月 27 日舉辦首屆機械人研討會。
OpenAI NewsAI 評分3030 OpenAI Scholars 2019：八位學者展示最終項目
OpenAI Scholars 第二期已結束，八位學者均完成最終項目。所有項目均在 OpenAI 舉行的 Scholars Demo Day 上展示。
OpenAI NewsAI 評分2828 OpenAI Fellows 2018 年秋季班：最終項目
OpenAI Fellows 2018 年秋季班已完成為期 6 個月的學徒計劃，學員由機器學習初學者成長為 OpenAI 核心貢獻者。OpenAI 正以滾動方式審核下一輪 Summer 2019 OpenAI Fellows 的申請。