OpenAI 的 AI 安全方針
OpenAI 指出，確保 AI 系統能安全地建構、部署及使用，對其使命至關重要。
#OpenAI
#OpenAI
今日 37 條OpenAI NewsAI 評分1414
OpenAI NewsAI 評分3434 3 月 20 日 ChatGPT 故障：事件經過
OpenAI 公佈 3 月 20 日 ChatGPT 故障的調查結果、已採取的行動，以及相關 bug 的技術細節。
OpenAI News精選AI 評分7070 OpenAI 為 ChatGPT 加入初步插件支援
OpenAI 為 ChatGPT 加入初步插件支援，插件可協助 ChatGPT 存取最新資訊、執行計算或使用第三方服務。插件是專為語言模型設計、以安全為核心原則的工具。
推薦理由：ChatGPT 初步支援以安全為核心原則的插件，涵蓋最新資訊、計算及第三方服務，呈現模型透過外部工具擴展能力的方式。
OpenAI NewsAI 評分3737 Khan Academy 探索 GPT-4 支援課堂虛擬教育的潛力
Khan Academy 在一項有限範圍的試點計劃中，探索 GPT-4 為課堂虛擬教育提供支援的潛力。
OpenAI NewsAI 評分4141 Stripe 利用 GPT-4 簡化使用者體驗並打擊欺詐
Stripe 利用 GPT-4 簡化使用者體驗並打擊欺詐。
OpenAI NewsAI 評分5151 Be My Eyes 使用 GPT-4 推動視覺無障礙體驗轉型
Be My Eyes 使用 GPT-4 推動視覺無障礙體驗轉型。
OpenAI NewsAI 評分4040 冰島利用 GPT-4 保存冰島語
冰島正利用 GPT-4 保存冰島語。
OpenAI News精選AI 評分8787 OpenAI 發佈 GPT-4 多模態模型
OpenAI 發佈 GPT-4，這是一款可接收圖像和文字輸入、輸出文字的大型多模態模型。它在多項專業及學術基準上達到人類水平表現，但在許多真實場景中的能力仍不及人類。
推薦理由：材料同時交代 GPT-4 的圖像與文字輸入、文字輸出形式，以及基準表現和真實場景能力的差異，可幫助讀者把握其能力描述的範圍。
OpenAI NewsAI 評分2727 OpenAI 為 AGI 及更遠未來作規劃
OpenAI 的使命是確保通用人工智能（AGI）造福全人類；文中將 AGI 描述為普遍比人類更聰明的 AI 系統。
OpenAI NewsAI 評分4343 AI 系統應如何行事，應由誰決定？
OpenAI 正闡明 ChatGPT 的行為如何形成，並説明改善其行為的計劃。計劃亦包括讓用户有更多自訂空間，並增加公眾參與相關決策的機會。
Hugging Face BlogAI 評分4646 ChatGPT 生成遊戲故事：AI 遊戲開發第 5 篇
《AI for Game Development》第 5 篇示範以 ChatGPT 為農場遊戲生成故事摘要、遊戲內故事及商店物品描述，並透過多輪對話修訂內容。初稿與 Stardew Valley 的故事極為相似，長篇生成亦出現質素下降和重複。文章提醒直接採用生成內容可能帶來法律、倫理及商業風險，建議以 AI 協助構思，並由人手撰寫定稿。
OpenAI News精選AI 評分7676 OpenAI 推出 ChatGPT Plus 試行訂閲計劃
OpenAI 推出 ChatGPT 的試行訂閲計劃 ChatGPT Plus。ChatGPT 是一款對話式 AI，可與用户交談、回答後續問題，並質疑錯誤假設。
OpenAI NewsAI 評分5555 OpenAI 推出用於辨別 AI 撰寫文字的分類器
OpenAI 推出一款經訓練、用於區分 AI 撰寫文字與人類撰寫文字的分類器。
Hugging Face Blog精選AI 評分6060 甚麼令對話智能體有用？
Hugging Face Blog 梳理對話智能體的訓練方法，涵蓋 IFT、SFT、RLHF 和 CoT。文中指出，IFT 所需指令數據僅為數百例量級，SFT 以人工標註改善有用性和安全性，RLHF 則根據人類偏好訓練獎勵模型，再用強化學習訓練對話智能體。
推薦理由：文章把 IFT、SFT、RLHF 與 CoT 放在對話智能體訓練脈絡中梳理，並比較多個系統的訓練資料和評估方向，呈現各方法的分工。
OpenAI News精選AI 評分6060 OpenAI 與 Microsoft 延長合作夥伴關係
OpenAI 宣佈與 Microsoft 延長合作夥伴關係。
OpenAI NewsAI 評分2525 GPT-3 從客户意見中快速提供細緻洞察
OpenAI 使用 GPT-3，從客户意見中快速提供細緻洞察。
OpenAI NewsAI 評分1616 OpenAI 利用 GPT-3 打造新一代 AI 角色
OpenAI 使用 GPT-3 創作新一代由 AI 驅動的角色。
OpenAI NewsAI 評分4646 OpenAI 推出全新升級嵌入向量模型
OpenAI 宣佈推出一款全新的嵌入向量模型，並稱這款模型能力顯著提升、成本效益更高，也更簡單易用。
OpenAI News精選AI 評分9393 OpenAI 介紹對話模型 ChatGPT
OpenAI 介紹了名為 ChatGPT 的對話模型，該模型以對話方式與用户互動。對話格式使 ChatGPT 能回答追問、承認錯誤、質疑不正確前提，並拒絕不當請求。
推薦理由：原文把追問、承認錯誤、質疑錯誤前提及拒絕不當請求列為對話格式支持的行為，具體呈現 ChatGPT 的互動設計。
OpenAI News精選AI 評分7676 OpenAI 開放 DALL·E API 公測，開發者可開始構建應用
OpenAI 宣佈 DALL·E API 開放公測，開發者可開始用它構建應用。
推薦理由：公告交代 DALL·E API 已開放公測及開發者可開始構建應用，呈現了這次開放對應的對象與實際用途。
Hugging Face Blog精選AI 評分7373 使用 🤗 Transformers 微調 Whisper 以支援多語言 ASR
Hugging Face Blog 提供使用 🤗 Transformers 為多語言 ASR 資料集微調 Whisper 的逐步指南，涵蓋資料準備、訓練與評估。
推薦理由：文章將 Whisper 多語言微調拆解為資料準備、特徵處理、訓練評估與示範流程，並以印地語資料展示從預處理到模型分享的可複用實作路徑。
OpenAI News精選AI 評分7777 DALL·E 開放免候補名單使用，新用户可立即開始創作
OpenAI 宣佈 DALL·E 不再設候補名單，新用户可立即開始創作。OpenAI 表示，部署過程累積的經驗及安全系統改進，讓服務得以擴大開放。
推薦理由：DALL·E 取消候補名單後，新用户可立即開始創作；OpenAI 同時交代擴大開放所依據的部署經驗與安全系統改進。
OpenAI News精選AI 評分6666 OpenAI 開源語音識別神經網絡 Whisper
OpenAI 宣佈將其訓練的神經網絡 Whisper 開源。Whisper 在英語語音識別上的穩健性與準確度接近人類水平。
推薦理由：Whisper 的開源安排與英語語音識別表現並列，且以接近人類水平作比較，讓讀者可同時掌握模型發佈範圍與性能定位。
OpenAI News精選AI 評分6868 DALL·E 推出 outpainting 功能，可將圖像延展至任意尺寸
DALL·E 推出 outpainting 功能，讓圖像可延展至任意尺寸，以擴展創作並講述更大的故事。
OpenAI NewsAI 評分3131 OpenAI 的對齊研究方法
OpenAI 正提升 AI 系統從人類回饋中學習及協助人類評估 AI 的能力。其目標是建立足夠對齊的 AI 系統，讓該系統協助解決其他所有對齊問題。
OpenAI NewsAI 評分5353 OpenAI 推出改進版內容審核工具
OpenAI 推出改進版內容審核工具 Moderation endpoint，該端點改進了 OpenAI 先前的內容過濾器。它免費供 OpenAI API 開發者使用。
OpenAI News精選AI 評分8282 DALL·E 開放 Beta，將在未來數週邀請 1 million 名候補名單用户
OpenAI 宣佈 DALL·E 開放 Beta，並將在未來數週邀請候補名單中的 1 million 人使用。用户可使用每月補充的免費點數創作，也可按每 115 次生成 $15 的價格購買額外點數。
推薦理由：材料同時列出候補邀請規模、免費點數補充頻率及額外點數價格，能讓讀者瞭解 Beta 開放初期的使用方式與成本。
OpenAI NewsAI 評分3737 減少 DALL·E 2 的偏見並提升安全性
OpenAI 正在為 DALL·E 推行一項新技術，令其生成的人物圖像更準確反映世界人口多樣性。這項措施旨在減少 DALL·E 2 的偏見並改善安全性。
OpenAI News精選AI 評分6464 OpenAI 以 Video PreTraining 訓練神經網絡玩 Minecraft
OpenAI 透過 Video PreTraining（VPT），使用大量未標註的人類 Minecraft 遊玩影片，配合少量已標註的承包商數據訓練神經網絡玩 Minecraft。經微調後，模型可學會製作鑽石工具；熟練玩家完成這項任務通常需要超過 20 分鐘（24,000 次操作）。模型使用按鍵輸入和滑鼠移動這種原生人類操作介面，研究將其視為邁向通用電腦操作智能體的一步。
推薦理由：這項研究展示如何利用大量未標註的人類遊玩影片，配合少量標註數據訓練可透過鍵盤和滑鼠操作遊戲的模型。
OpenAI NewsAI 評分5959 OpenAI 研究：AI 撰寫的評註有助人類發現摘要缺陷
OpenAI 訓練了能描述摘要缺陷的評註撰寫模型；人類評估者閲讀這些評註後，發現摘要缺陷的頻率大幅提高。較大型模型更善於自我評註，規模擴大對評註撰寫的提升幅度大於摘要撰寫。這顯示 AI 系統有望協助人類監督難度較高任務中的 AI 系統。
OpenAI NewsAI 評分4040 OpenAI、Cohere 與 AI21 Labs 的語言模型部署最佳實踐
Cohere、OpenAI 與 AI21 Labs 制定了一套初步最佳實踐，適用於任何開發或部署大型語言模型的組織。
OpenAI NewsAI 評分4747 OpenAI Codex 為下一代應用程式提供動力
OpenAI Codex 現正透過 OpenAI API，為涵蓋多種使用場景的 70 款不同應用程式提供支援。
OpenAI NewsAI 評分5050 DALL·E 2 研究預覽更新
OpenAI 將開始每週從候補名單增添最多 1,000 名 DALL·E 2 研究預覽用户。早期用户至今已創作超過 3 million 張圖像，並協助 OpenAI 改進安全流程。
OpenAI NewsAI 評分2020 OpenAI 領導團隊職務變動
OpenAI 宣佈多項高層職務變動，稱這些調整反映近期進展，並將確保團隊持續朝下一個重大里程碑推進。
Hugging Face BlogAI 評分5656 用 🤗 datasets 建立圖片搜尋應用
🤗 datasets 教程示範為 10,000 張來自 British Library 數碼化書籍的插圖建立文字搜圖流程。作者使用 sentence_transformers 的 CLIP 將圖片和文字提示詞轉成嵌入向量，再以 FAISS 檢索相似圖片；完整數據集網址為 https://doi.org/10.21250/db17。
OpenAI News精選AI 評分6363 OpenAI 發佈 GPT-3 和 Codex 新版本，支援編輯及插入既有文本
OpenAI 發佈 GPT-3 和 Codex 新版本，讓模型可以編輯或插入既有文本內容，而非只接續文本。
推薦理由：新版本把 GPT-3 和 Codex 的操作從接續既有文本擴展到編輯或插入內容，清楚呈現兩種文本處理方式的差異。
OpenAI NewsAI 評分3030 OpenAI 分享語言模型安全與濫用方面的經驗教訓
OpenAI 分享對已部署模型的安全與濫用問題的最新思考，期望協助其他 AI 開發者應對相關問題。
OpenAI NewsAI 評分3333 OpenAI 徵求大型語言模型經濟影響研究意向
OpenAI 徵求大型語言模型經濟影響研究的意向，供有意探討該議題者表達研究興趣。
OpenAI News精選AI 評分7878 OpenAI 透過對齊研究訓練 InstructGPT，使語言模型遵循指令
OpenAI 表示，透過對齊研究訓練的 InstructGPT 比 GPT-3 更能遵循用户意圖，同時回答更真實、毒性更低。這些由人類參與訓練的模型已部署為 OpenAI API 的預設語言模型。
推薦理由：材料交代了 InstructGPT 相較 GPT-3 的改進方向、人類參與訓練方式及 API 預設部署，呈現對齊研究如何落到實際服務。
OpenAI News精選AI 評分6464 OpenAI 在 API 推出文字與程式碼嵌入向量端點
OpenAI 在 API 新增嵌入向量端點，支援自然語言與程式碼任務。端點可用於語義搜尋、聚類、主題建模和分類。
推薦理由：新端點涵蓋語義搜尋、聚類、主題建模與分類，呈現嵌入向量在自然語言及程式碼任務中的應用範圍。