OpenAI 宣佈 GPT-3.5 Turbo 微調功能及 API 更新
GPT-3.5 Turbo fine-tuning and API updates
OpenAI 宣佈 GPT-3.5 Turbo 微調功能及 API 更新。開發者現可使用自備數據,按自身用途定製 GPT-3.5 Turbo。
這項更新讓開發者可用自備數據微調 GPT-3.5 Turbo,呈現其面向不同使用場景的定製方式。
GPT‑3.5 Turbo 的微調現已推出,GPT‑4 的微調則將於今年秋季推出。這項更新讓開發者能夠自訂模型,使其更切合自己的使用情境,並大規模運行這些自訂模型。初步測試顯示,經微調的 GPT‑3.5 Turbo 版本在某些範圍狹窄的任務上,可媲美甚至超越基礎 GPT‑4‑level 能力。與我們所有 API 一樣,傳入及傳出微調 API 的資料均由客戶擁有,而且不會被 OpenAI 使用,亦不會被任何其他機構用於訓練其他模型。
自 GPT‑3.5 Turbo 推出以來,開發者和企業一直希望能自訂模型,為使用者打造獨特且具差異化的體驗。隨着此功能推出,開發者現在可以進行監督式微調,讓此模型在其使用情境中表現更佳。
在我們的私人測試版中,微調客戶已能在常見使用情境中顯著提升模型效能,例如:
可控性提升:微調可讓企業更好地讓模型遵循指示,例如令輸出簡潔,或始終以指定語言作答。舉例而言,開發者可使用微調,確保模型在收到要求使用該語言作答的提示時,總是以德文回覆。
可靠的輸出格式: 微調可提升模型一致地格式化回覆的能力,這對要求特定回覆格式的應用程式至關重要,例如程式碼補全或撰寫 API 呼叫。開發者可使用微調,更可靠地將使用者提示轉換成可供其自有系統使用的高品質 JSON 片段。
自訂語氣: 微調是調校模型輸出質感(例如語氣)的好方法,令輸出更貼合企業品牌的風格。具鮮明品牌語調的企業可使用微調,令模型的語氣更一致。
除了提升效能外,微調亦讓企業能夠縮短提示,同時保持相若的效能。 使用 GPT‑3.5‑Turbo 進行微調亦可處理 4k tokens,是我們先前微調模型的兩倍。早期測試者透過將指示微調至模型本身,最多可將提示長度縮短 90%,從而加快每次 API 呼叫並降低成本。
微調與其他技術(在新視窗開啟)(例如提示工程、資訊檢索和函數呼叫)結合使用時,效用最大。如需了解更多,請參閱我們的微調指南(在新視窗開啟)。對函數呼叫和gpt-3.5-turbo-16k的微調支援將於今年秋季稍後推出。
來源:OpenAI News · openai.com