OpenAI 發佈 o1,並介紹 Realtime API 改進及新微調方法
OpenAI o1 and new tools for developers
OpenAI 發佈 o1,並公佈面向開發者的多項更新。內容包括 Realtime API 改進和一種新的微調方法。
公告將 o1、Realtime API 改進與新微調方法一併面向開發者呈現,可用來把握 OpenAI 此次更新涵蓋的模型與開發工具範圍。
OpenAI
向開發者介紹 OpenAI o1、Realtime API 的改進、新的微調方法及更多內容。
今天我們推出能力更強的模型、新的自訂工具,以及能提升效能、靈活性和成本效益的升級,供使用 AI 開發的開發者採用。內容包括:
API 中的 OpenAI o1(在新視窗開啟),並支援函數呼叫、開發者訊息、結構化輸出和視覺功能。
Realtime API 更新(在新視窗開啟),包括簡易的 WebRTC 整合、GPT‑4o 音訊價格下調 60%,以及以往音訊費率十分之一的價格支援 GPT‑4o mini。
偏好微調(在新視窗開啟),這是一種新的模型自訂技術,讓你更容易根據使用者和開發者的偏好調整模型。
全新的 Go 和 Java SDK(在新視窗開啟) 現正提供測試版。
API 中的 OpenAI o1
OpenAI o1,這款推理模型旨在以高準確度處理複雜的多步驟任務,現正逐步向使用層級 5(在新視窗開啟)的開發者開放 API 存取。o1 是 OpenAI 的後繼模型,o1‑preview,開發者已用它建立代理式應用程式,以簡化客戶支援、優化供應鏈決策,並預測複雜的金融趨勢。
o1 已適合投入生產使用,並具備支援實際應用情境的主要功能,包括:
函數呼叫(在新視窗開啟):讓 o1 無縫連接外部資料和 API。
結構化輸出(在新視窗開啟):產生可可靠遵循自訂 JSON Schema 的回應。
開發者訊息:指定模型要遵循的指示或背景資訊,例如界定語氣、風格及其他行為指引。
視覺功能:對影像進行推理,拓展更多應用場景,包括重視視覺輸入的科學、製造業或程式設計領域。
更低延遲:對於相同請求,o1 平均使用的推理 token 比 o1‑preview 少 60%。
新增的 `reasoning_effort` API 參數可讓你控制模型在回答前思考的時間長短。
我們今天推出的 o1 快照o1‑2024‑12‑17是我們兩週前在 ChatGPT 發佈的模型經後訓練後的新版本。它根據意見回饋改善了模型行為的若干方面,同時保留了我們在 o1 System Card。中評估的前沿能力。我們亦即將把 ChatGPT 中的 o1 更新至此版本。下方分享的評估結果反映這個新快照的效能,確保開發者掌握此版本最新的基準數據。
o1‑2024‑12‑17 在多項基準測試中創下最新頂尖成績,同時提升成本效益及效能。
| 類別 | 評估 | o1-2024-12-17 | o1-preview |
|---|---|---|---|
| 一般 | GPQA diamond | 75.7 | 73.3 |
| MMLU (pass @1) | 91.8 | 90.8 | |
| 編程 | SWE-bench Verified | 48.9 | 41.3 |
| LiveBench (Coding) | 76.6 | 52.3 | |
| 數學 | MATH (pass @1) | 96.4 | 85.5 |
| AIME 2024 (pass @1) | 79.2 | 42.0 | |
| MGSM (pass @1) | 89.3 | 90.8 | |
| 視覺 | MMMU (pass @1) | 77.3 | — |
| MathVista (pass @1) | 71.0 | — | |
| 事實性 | SimpleQA | 42.6 | 42.4 |
| 代理 | TAU-bench (retail) | 73.5 | — |
| TAU-bench (airline) | 54.2 | — |
此外,我們觀察到o1‑2024‑12‑17在我們的函數呼叫和結構化輸出測試中顯著優於 gpt-4o。
Realtime API 的改進
這個 Realtime API(在新視窗開啟)讓開發者打造低延遲、自然流暢的對話體驗。它適用於語音助理、即時翻譯工具、虛擬導師、互動式客戶支援系統,甚至你自己的虛擬 Santa(在新視窗開啟)。今天我們推出多項改動,以回應開發者最常提出的幾項需求:直接整合 WebRTC、降低價格,並加強對回應的控制。
WebRTC 支援
我們為 Realtime API 引入 WebRTC(在新視窗開啟) 支援。WebRTC 是一項開放標準,可讓你更輕鬆地在不同平台上建置和擴展即時語音產品——無論是瀏覽器應用程式、流動用戶端、IoT 裝置,還是直接的伺服器對伺服器設定。
我們的 WebRTC 整合旨在確保在實際環境中也能流暢、迅速地互動,即使網絡品質有變亦然。它會處理音訊編碼、串流、噪音抑制和壅塞控制。
使用 WebRTC,現在只需幾行 Javascript 程式碼,即可加入 Realtime 功能:
更低成本的全新 GPT-4o 和 GPT-4o mini 即時快照
我們以 Realtime API 測試版的一部分推出 gpt-4o-realtime-preview-2024-12-17,其語音品質有所提升,輸入內容更可靠(尤其是聽寫數字時),成本亦有所降低。得益於效率提升,我們將音訊 token 價格下調 60%,至 $40/1M 輸入 tokens 和 $80/1M 輸出 tokens。快取音訊輸入的費用則下調 87.5%,至 $2.50/1M 輸入 tokens。
我們亦將 GPT‑4o mini 引入 Realtime API 測試版,作為 gpt-4o-mini-realtime-preview-2024-12-17。GPT‑4o mini 是我們最具成本效益的小型模型,為 Realtime API 帶來與 GPT‑4o 同樣豐富的語音體驗。GPT‑4o mini 的音訊價格為 $10/1M 輸入 tokens 和 $20/1M 輸出 tokens。文字 tokens 收費為 $0.60/1M 輸入 tokens 和 $2.40/1M 輸出 tokens。快取音訊和文字均收費 $0.30/1M tokens。
這些快照可在 Realtime API(在新視窗開啟) 中取得,亦可在 Chat Completions API(在新視窗開啟) 中以 gpt-4o-audio-preview-2024-12-17 和 gpt-4o-mini-audio-preview-2024-12-17 的形式使用。
對回應有更多控制
偏好微調
微調 API 現已支援 偏好微調(在新視窗開啟),讓你可以輕鬆根據使用者和開發者的偏好自訂模型。此方法使用 直接偏好最佳化(DPO)(在新視窗開啟)比較成對的模型回應,教模型分辨偏好的輸出和非偏好的輸出。偏好微調透過成對比較而非固定目標來學習,因此特別適用於重視語氣、風格和創意等主觀任務。
如下所示,偏好微調與監督式微調之間存在一些關鍵差異。
監督式微調(SFT) | 偏好微調(PFT) | |
|---|---|---|
目標 | 透過複製標註好的輸出,促使模型產生正確輸出 | 透過強化偏好的回應並降低非偏好回應出現的可能性,令模型傾向採取期望的行為 |
訓練資料 | 精確的輸入與輸出配對 | 透過人工標註、A/B 測試或合成資料生成建立的偏好與非偏好模型輸出配對 |
使用情境 | 適用於容易準備理想輸出的任務,例如自訂程式碼格式,且需要嚴格確保正確性的情況 | 適用於「較佳」回應取決於主觀判斷的任務,例如創意寫作或摘要。 |
我們已開始與可信賴的合作夥伴測試偏好微調,目前成果令人鼓舞。例如,Rogo AI(在新視窗開啟) 正在開發一款供金融分析師使用的 AI 助理,可將複雜查詢拆解為子查詢。使用由專家設計的基準測試 Rogo-Golden 後,他們發現,監督式微調在處理分佈外查詢擴展時遇到困難,例如未能為「公司 X 的增長速度有多快」這類查詢提供 ARR 等指標;偏好微調則解決了這些問題,將基礎模型的準確率從 75% 提升至 80% 以上。
偏好微調今日將為 gpt-4o-2024-08-06推出,並將於稍後提供給 gpt-4o-mini-2024-07-18。每個訓練 token 的收費與監督式微調相同;我們最新模型的支援將於明年初推出。如需更多資訊,請參閱 API 文件中的 微調指南(在新視窗開啟)。
Go 和 Java SDK 測試版
如欲進一步了解 Go SDK,請參閱 GitHub 上的 README(在新視窗開啟)。
Java 一直是企業軟件開發的重要支柱,深受開發者青睞,原因包括其類型系統及龐大的開源程式庫生態系。OpenAI Java SDK 提供具型別的請求和回應物件,以及管理 API 請求的實用工具。
結論
來源:OpenAI News · openai.com