OpenAI 發佈 API,供存取其新開發的 AI 模型
OpenAI API
OpenAI 發佈 API,供存取其開發的新 AI 模型。
我們現正推出一個 API,讓使用者能夠存取 OpenAI 開發的新人工智能模型。有別於大多數為單一用途而設計的人工智能系統,現時的 API 提供通用的「文字輸入、文字輸出」介面,讓使用者幾乎可以嘗試將它用於任何以英語進行的任務。你現在可以申請存取權,以便將 API 整合至你的產品、開發全新應用程式,或協助我們探索這項技術的優勢與限制。
這個領域進展迅速,因此人工智能經常出現令人意想不到的新應用,既有正面的,也有負面的。我們會終止涉及明顯有害用途(例如騷擾、垃圾訊息、激進化或偽造草根聲勢)的 API 存取權。但我們亦知道無法預見這項技術所有可能造成的後果,因此今天我們以私人測試版形式推出,而非全面開放;同時建立工具,協助使用者更好地控制 API 傳回的內容,並研究語言技術中與安全相關的層面(例如分析有害偏見、減輕偏見影響及介入處理)。我們會分享所得,以便我們的使用者和更廣泛的社群能夠建立更多有益於人類的人工智能 系統。
對於 GPT‑2,我們其中一個主要憂慮是模型遭到惡意使用(例如用於散播假消息);模型一旦以開源方式發布,便難以防止這種情況。對於 API,我們可以透過限制只有獲批客戶和用途才能存取,較有效地防止濫用。在建議推出的應用程式正式上線前,必須經過我們的正式環境審核流程。在正式環境審核中,我們會從幾個方面評估應用程式,並提出以下問題: 這是否屬於目前支援的用途?, 這項應用程式的開放程度如何?, 這項應用程式的風險有多高?, 你計劃如何應對潛在的濫用?,以及 你的 應用程式的最終使用者是誰?。
我們會終止以下用途的 API 存取權:經確認會(或意圖)對人造成身體、情緒或心理傷害的用途,包括但不限於騷擾、蓄意欺騙、激進化、偽造草根聲勢或垃圾訊息;以及防護措施不足、未能限制終端使用者濫用的應用程式。隨着我們累積更多實際操作 API 的經驗,我們會持續完善可支援的用途類別,既擴大我們可支援的應用程式範圍,亦為我們對濫用存有疑慮的用途制定更細緻的類別。
我們審批 API 用途時,其中一個重要考量因素,是應用程式就系統底層的生成能力而言,表現得有多開放或受限制。API 的開放式應用(即透過任意提示詞,讓使用者毫無阻礙地生成大量可自訂文字的應用)特別容易遭到濫用。能令生成式用途更安全的限制措施包括:確保有人參與其中的系統設計、終端使用者的存取限制、輸出後處理、內容過濾、輸入/輸出長度限制、主動監察,以及主題 限制。
我們亦繼續研究透過 API 提供的模型可能遭到的濫用情況,包括與第三方研究人員透過我們的 學術存取計劃(在新視窗開啟)。現階段我們先與極少數研究人員合作,並已從我們位於 Middlebury Institute(在新視窗開啟)、 University of Washington 及 Allen Institute for AI(在新視窗開啟)的學術合作夥伴取得一些成果。這項計劃已有數以萬計的申請者,我們目前優先考慮聚焦於公平性及代表性 研究的申請。
來源:OpenAI News · openai.com