OpenAI 為 ChatGPT 加入初步插件支援
ChatGPT plugins
OpenAI 為 ChatGPT 加入初步插件支援,插件可協助 ChatGPT 存取最新資訊、執行計算或使用第三方服務。插件是專為語言模型設計、以安全為核心原則的工具。
ChatGPT 初步支援以安全為核心原則的插件,涵蓋最新資訊、計算及第三方服務,呈現模型透過外部工具擴展能力的方式。
OpenAI
我們已在 ChatGPT 中初步支援外掛程式。外掛程式是專為語言模型設計的工具,以安全為核心原則,並協助 ChatGPT 取得最新資訊、進行運算或使用第三方服務。
按照我們的 迭代式部署 理念,我們正逐步在 ChatGPT 推出外掛程式,以便研究外掛程式在現實世界中的使用情況、影響,以及 安全與對齊 方面的挑戰——這些都必須妥善處理,才能實現 我們的使命。
自我們推出 ChatGPT 以來,使用者一直要求加入外掛程式功能(而許多開發者也正在探索(在新視窗開啟)類似(在新視窗開啟)的(在新視窗開啟)構想(在新視窗開啟))因為它們開啟了大量可能的應用情境。我們會先向少數使用者開放,並計劃隨着了解深入而逐步擴大開放範圍(先供外掛程式開發者及 ChatGPT 使用者使用;初期測試階段後,再供希望將外掛程式整合至自家產品的 API 使用者使用)。我們期待建立一個社群,共同塑造人類–AI 互動模式的未來。
獲邀加入的外掛程式開發者可使用我們的 文件(在新視窗開啟) 為 ChatGPT 開發外掛程式;之後,系統會在顯示給語言模型的提示中列出已啟用的外掛程式,並附上指示模型如何使用各個外掛程式的文件。首批外掛程式由 Expedia(在新視窗開啟)、FiscalNote(在新視窗開啟)、Instacart(在新視窗開啟)、KAYAK(在新視窗開啟)、Klarna(在新視窗開啟)、Milo(在新視窗開啟)、OpenTable(在新視窗開啟)、Shopify(在新視窗開啟)、Slack(在新視窗開啟)、Speak(在新視窗開啟)、Wolfram(在新視窗開啟)以及 Zapier(在新視窗開啟)開發。
我們亦自行提供兩個外掛程式:一個是 網頁瀏覽器,另一個是 程式碼解譯器。我們亦已將知識庫 檢索外掛程式(在新視窗開啟)的程式碼開源,供任何想以資訊擴充 ChatGPT 的開發者自行託管。
今日,我們將開始向等候名單上的使用者及開發者開放外掛程式的初期測試資格。 等候名單上的使用者及開發者。初期會優先向少數開發者及 ChatGPT Plus 使用者開放,我們計劃隨時間逐步擴大開放範圍。
概覽
現今的語言模型雖然能處理各種任務,但仍有局限。它們能學習的資訊只有訓練資料。這些資訊可能已過時,而且不會因應不同應用程式而調整。此外,語言模型開箱即用時唯一能做的事就是輸出文字。這些文字可能包含有用的指示,但若要真正遵循這些指示,還需要另一個流程。
雖然這個比喻並不完美,但外掛程式可以成為語言模型的「眼睛和耳朵」,讓它們取得太新近、太個人化,或太具體而無法納入訓練資料的資訊。應使用者明確要求,外掛程式亦可讓語言模型代替使用者執行安全且受限制的操作,從而提升整個系統的實用性。
我們預期會出現開放標準,統一應用程式提供面向 AI 介面的方式。我們正初步探索這類標準可能採用的形式,並希望聽取有興趣與我們共同開發的開發者意見。
今日,我們開始逐步讓 ChatGPT 使用者使用早期合作夥伴現有的外掛程式,首先開放予 ChatGPT Plus 訂閱者。我們亦開始推出功能,讓開發者為 ChatGPT 建立自己的外掛程式。
未來數月,我們會從部署中汲取經驗,並繼續改進安全系統,逐步完善這項協議;我們亦計劃讓使用 OpenAI 模型的開發者,將外掛程式整合至 ChatGPT 以外的自家應用程式。
安全與更廣泛的影響
將語言模型連接至外部工具,既帶來新的機遇,也帶來重大的 新風險(在新視窗開啟)。
外掛程式有望應對大型語言模型面臨的各種挑戰,包括「幻覺」、跟上近期事件,以及(經授權)存取專有資訊來源。明確整合外部資料的存取能力——例如網上最新 資訊、以程式碼進行的計算,或由自訂外掛程式擷取的資訊——可讓語言模型以有根據的參考資料強化回覆。
這些參考資料不但提升模型的實用性,也讓使用者能評估模型輸出的可信度並再次核實其準確性,或可減輕過度依賴所帶來的風險,正如我們近期的 GPT‑4 系統卡(在新視窗開啟)所述。最後,外掛程式的價值或遠超解決現有局限,還能協助使用者處理各種新用途,例如瀏覽產品目錄、預訂航班或訂購食物。
與此同時,外掛程式若採取有害或非預期的行動,可能會加劇安全挑戰,並提升不法分子的能力,讓他們得以詐騙、誤導或侵害他人。外掛程式擴大可能的應用範圍,或會提高模型在新領域採取錯誤或不符預期行動而造成負面後果的風險。從第一天起,這些因素一直指引我們開發外掛程式平台,並促使我們實施多項防護措施。
“從第一天起,這些因素一直指引我們開發外掛程式平台,並促使我們實施多項防護措施。”
我們曾在內部及與外部合作夥伴進行紅隊演練,揭示了不少可能令人憂慮的情境。例如,紅隊成員發現,若不為外掛程式加設防護措施,它們可能被用來進行複雜的提示注入、寄送詐騙及垃圾郵件、繞過安全限制,或濫用傳送至外掛程式的資訊。我們正利用這些發現,制定以安全為本的緩解措施,限制外掛程式的高風險行為,並提高使用者體驗中外掛程式運作方式及時間的透明度。我們亦會參考這些發現,決定逐步開放外掛程式的使用權限。
若你是有意研究此領域安全風險或緩解方法的研究人員,我們鼓勵你使用我們的 Researcher Access Program。我們亦邀請開發者和研究人員,透過我們最近開源的 Evals 評估框架(在新視窗開啟)提交與外掛程式相關的安全性及能力評估。
外掛程式很可能會對社會帶來廣泛影響。例如,我們最近發表了一份 工作論文(在新視窗開啟),指出可使用工具的語言模型很可能比無法使用工具的模型帶來更大的經濟影響;更廣泛而言,正如 其他(在新視窗開啟)研究人員(在新視窗開啟) 的研究結果所示,我們預期當前這波 AI 技術會大幅影響職位轉型、流失和創造的速度。我們期待與外部 研究人員(在新視窗開啟)及 客戶(在新視窗開啟)合作,研究這些影響。
過往研究(包括我們自己的 WebGPT,以及 GopherCite(在新視窗開啟)、BlenderBot2(在新視窗開啟)、LaMDA2(在新視窗開啟)及 其他(在新視窗開啟))給了我們啟發。讓語言模型讀取互聯網上的資訊,只會擴大它們可討論的內容範圍,從訓練語料延伸至當下的最新資訊。
以下示例展示了瀏覽功能為 ChatGPT 使用者開啟的體驗;以往模型只能禮貌地指出,訓練資料不足以讓它回答。此例中,ChatGPT 先擷取最新的奧斯卡頒獎禮資訊,然後施展如今已為人熟悉的 ChatGPT 詩歌創作本領,展示了瀏覽功能如何為體驗增添價值。
除了為終端使用者帶來顯而易見的實用價值外,我們認為,讓語言模型和聊天模型進行全面而可解讀的研究,在 可擴展的對齊方面前景令人期待。
安全考量
我們建立了一個網頁瀏覽外掛程式,讓語言模型存取網頁瀏覽器;設計上兼顧安全,並力求成為網絡上的好公民。這個以文字為本的網頁瀏覽器只限發出 GET 請求,從而降低(但不能完全消除)某些類別的安全風險。這令瀏覽外掛程式適合用來擷取資訊,但不包括提交表格等「交易」操作,因為這類操作會帶來更多安全問題。
瀏覽功能透過 Bing 搜尋 API 擷取網頁內容。 因此,我們可受惠於 Microsoft 在(1)資訊來源可靠性與真確性,以及(2)防止擷取不當內容的「安全模式」方面所做的大量工作。外掛程式在隔離服務中運作,因此 ChatGPT 的瀏覽活動與我們其餘的基礎設施分開。
為尊重內容創作者並遵守網絡規範,我們瀏覽器外掛程式的使用者代理程式標記為 ChatGPT‑User,並已設定為遵守網站的 robots.txt 檔案。這可能偶爾會顯示「點擊失敗」訊息,表示外掛程式正遵從網站要求,避免對網站進行爬取。此使用者代理程式只會代表 ChatGPT 使用者執行直接操作,不會以任何自動方式爬取網絡。我們亦已公布 IP 出口範圍(在新視窗開啟)。此外,我們已實施速率限制措施,避免向網站傳送過多流量。
我們的瀏覽外掛程式會顯示曾造訪的網站,並在 ChatGPT 的回覆中列出資料來源。這額外增加的透明度有助使用者核實模型回覆的準確性,亦讓內容創作者獲得應有的認可。我們明白這是一種與網絡互動的新方式,也歡迎大家提供意見,分享如何進一步將流量引回資料來源,並促進整個生態系統的健康發展。
我們在設有防火牆的沙盒執行環境中,為模型提供可正常運作的 Python 解譯器,以及一些暫存磁碟空間。解譯器外掛程式執行的程式碼會在持續存在的工作階段中執行;該工作階段會在整段聊天對話期間保持運作(設有最長逾時限制),之後的呼叫亦可在先前結果上繼續執行。我們支援將檔案上載至目前對話的工作區,並下載工作成果。
我們希望模型能運用其 程式設計(在新視窗開啟)技能(在新視窗開啟),為電腦最基本的功能提供更自然的操作介面。有一位幹勁十足的初級程式設計師,能以指尖般的速度工作,可令全新的工作流程變得輕鬆而高效,也能讓更多人受惠於程式設計。
根據最初的使用者研究,我們找出了程式碼解譯器特別有用的情境:
解決數學問題,包括定量和定性問題
進行資料分析和視覺化
將檔案轉換成不同格式
我們邀請使用者試用程式碼解譯器整合功能,並探索其他實用任務。
安全考量
將模型連接至程式語言解譯器時,首要考量是為執行過程提供適當的沙盒隔離,避免 AI 產生的程式碼在現實世界造成非預期影響。我們會在安全環境中執行程式碼,並嚴格管制網絡連線,避免所執行的程式碼連接外部互聯網。此外,我們亦為每個工作階段設定資源上限。停用互聯網連線會限制程式碼沙盒的功能,但我們相信,這是現階段合適的取捨。 第三方外掛程式則是以安全為先、連接模型與外界的一種方式。
檢索
開源檢索外掛程式可讓 ChatGPT(經授權後)存取個人或機構的資訊來源。使用者可用自然語言提問或表達需求,從檔案、筆記、電郵或公開文件等資料來源中取得最相關的文件摘錄。
作為開源且可自行託管的解決方案,開發者可部署自己的外掛程式版本,並向 ChatGPT 註冊。外掛程式採用 OpenAI 嵌入向量(在新視窗開啟),並讓開發者選擇向量資料庫(Milvus(在新視窗開啟)、Pinecone(在新視窗開啟)、Qdrant(在新視窗開啟)、Redis(在新視窗開啟)、Weaviate(在新視窗開啟)或 Zilliz(在新視窗開啟))以建立文件索引及搜尋文件。資訊來源可透過網絡回呼與資料庫同步。
開始使用,請前往 檢索外掛程式的程式碼儲存庫(在新視窗開啟)。
安全考量
檢索外掛程式可讓 ChatGPT 搜尋內容向量資料庫,並將最相關的結果加入 ChatGPT 工作階段。這不會對外部造成任何影響,主要風險在於資料授權與私隱。開發者只應將自己獲授權使用,且可分享於使用者 ChatGPT 工作階段中的內容,加入檢索外掛程式。
第三方外掛程式以 資訊清單檔案(在新視窗開啟)描述,其中包含可由機器讀取的外掛程式功能說明、呼叫方法,以及提供使用者閱讀的文件。
用於管理待辦事項的外掛程式資訊清單檔案範例
建立外掛程式的步驟如下:
建立一個包含語言模型需要呼叫的端點的 API(可以是新 API、現有 API,或專為 LLMs 設計、包裝既有 API 的介面)。
建立一份記錄 API 的 OpenAPI 規格,並建立連結至 OpenAPI 規格、包含外掛程式專屬中繼資料的資訊清單檔案。
使用者在 chatgpt.com(在新視窗開啟) 開始對話時,可以選擇要啟用哪些第三方外掛程式。系統會將已啟用外掛程式的文件作為對話脈絡的一部分顯示給語言模型,讓模型能按需要呼叫合適的外掛程式 API,以滿足使用者意圖。目前,外掛程式是為呼叫後端 API 而設計;我們也正在探索可呼叫客戶端 API 的外掛程式。
展望未來
我們正致力開發外掛程式,並讓更多人使用。我們還有很多需要學習的地方,希望在大家協助下,打造既實用又安全的產品。
作者
OpenAI
貢獻者
Sandhini Agarwal, Ilge Akkaya, Valerie Balcom, Mo Bavarian, Gabriel Bernadett-Shapiro, Greg Brockman, Miles Brundage, Jeff Chan, Fotis Chantzis, Noah Deutsch, Brydon Eastman, Atty Eleti, Niko Felix, Simón Posada Fishman, Isa Fulford, Christian Gibson, Joshua Gross, Mike Heaton, Jacob Hilton, Xin Hu, Shawn Jain, Joy Jiao, Haozhun Jin, Logan Kilpatrick, Christina Kim, Michael Kolhede, Andrew Mayne, Paul McMillan, David Medina, Jacob Menick, Andrey Mishchenko, Ashvin Nair, Rajeev Nayak, Arvind Neelakantan, Rohan Nuttall, Joel Parish, Alex Tachard Passos, Adam Perelman, Filipe de Avila Belbute Peres, Vitchyr Pong, John Schulman, Eric Sigler, Natalie Staudacher, Nicholas Turley, Jerry Tworek, Ryan Greene, Arun Vijayvergiya, Chelsea Voss, Jiayi Weng, Matt Wiethoff, Sarah Yoo, Kevin Yu, Wojciech Zaremba, Shengjia Zhao, Will Zhuk, Barret Zoph
來源:OpenAI News · openai.com