跳到正文
OpenAI News·· 2023-06-13精選AI 評分80

OpenAI 宣佈 API 更新,涵蓋函數調用、更長上下文及更低價格

Function calling and other API updates

AI 導讀

OpenAI 宣佈 API 更新,內容包括更可控的模型、函數調用能力、更長上下文及更低價格。

推薦理由

更新同時涵蓋 API 模型的可控性、函數調用、上下文長度與價格,讀者可從能力與成本兩方面掌握這次調整的範圍。

正文 · 繁體中文

July 20, 2023 更新:

我們之前曾告知開發者,gpt-3.5-turbo-0301、gpt-4-0314及gpt-4-32k-0314模型原定於 Sept 13, 2023 停止支援。收到客戶及社群的意見後,我們將延長對這些模型的支援,直至至少 June 13, 2024。

每當我們推出新模型版本,首要任務都是讓新模型在各方面都更聰明。我們致力於在多個方面作出改進,例如遵從指示、事實準確度及拒答行為。舉例來說,上個月推出的 gpt-4-0613 模型在呼叫函數方面有顯著改善。 

我們會參考大量評估指標,判斷是否應推出新模型。雖然大部分指標都有改善,但某些任務的表現仍有可能變差。因此,我們允許 API 用戶鎖定模型版本。例如,你可以使用 gpt-4-0314,而不是通用的 gpt-4,後者會指向最新模型版本。每個個別鎖定的模型版本都是穩定的,也就是說,我們不會作出影響其輸出的變更。 

我們正努力確保新版本能在全面的任務範圍內帶來改進。不過,我們的評估方法並非完美,而且我們一直在改進。若要幫助我們確保新模型在你關注的領域中變得更好,其中一個方法是為 OpenAI Evals 程式庫⁠(在新視窗開啟) 作出貢獻,回報我們模型的不足之處。

我們明白,模型升級及行為變更可能會影響你的應用程式。我們正研究如何為開發者提供更穩定的安排,並讓他們更清楚了解我們推出及停止支援模型的方式。


開發者現在可以向 gpt-4-0613 及 gpt-3.5-turbo-0613 描述函數,並讓模型智能地選擇輸出包含呼叫這些函數所需參數的 JSON 物件。這是一種將 GPT 的能力與外部工具及 API 更可靠地連接起來的新方法。

這些模型經過微調,既能(根據用戶輸入)判斷何時需要呼叫函數,也能回覆符合函數簽章的 JSON。函數呼叫讓開發者能更可靠地從模型取得結構化資料。例如,開發者可以:

  • 建立透過呼叫外部工具回答問題的聊天機械人(例如 ChatGPT Plugins)

將「發電郵給 Anya,問她下星期五想不想一起飲咖啡」之類的查詢轉換為類似 send_email(to: string, body: string) 的函數呼叫,或將「Boston 的天氣如何?」轉換為 get_current_weather(location: string, unit: 'celsius' | 'fahrenheit')。

  • 將自然語言轉換為 API 呼叫或資料庫查詢

將「本月排名前十的客戶有哪些?」轉換為類似 get_customers_by_revenue(start_date: string, end_date: string, limit: int) 的內部 API 呼叫,或將「Acme, Inc. 上個月下了多少張訂單?」轉換為使用 sql_query(query: string) 的 SQL 查詢。

  • 從文字中擷取結構化資料

定義一個名為 extract_people_data(people: [{name: string, birthday: string, location: string}]) 的函數,從 Wikipedia 條目中擷取所有提及的人物。

這些用途由我們 /v1/chat/completions 端點中的新 API 參數 functions 及 function_call 實現,這些參數讓開發者可以透過 JSON Schema 向模型描述函數,並可選擇要求模型呼叫指定函數。如要開始使用,請參閱我們的 開發者文件⁠(在新視窗開啟),並 新增評估⁠(在新視窗開啟)(如果你發現函數呼叫有可改進之處)。

自 ChatGPT Plugins 的 alpha 版推出以來,我們在讓工具與語言模型安全協作方面學到了很多。不過,仍有一些尚待研究的問題。例如,一項概念驗證式攻擊展示了工具輸出中的不可信資料如何指示模型執行非預期操作。我們正努力降低這些及其他風險。開發者可以只採用可信工具提供的資訊,並在執行會對現實世界造成影響的操作前加入用戶確認步驟,以保護自己的應用程式,例如發送電郵、在網上發佈內容或購物。

來源:OpenAI News · openai.com