如何使用 Gradio 2.0 載入及組合 Hugging Face 模型
Using & Mixing Hugging Face Models with Gradio 2.0
Gradio 2.0 讓使用者可用一行程式碼透過 GUI 載入並使用幾乎任何 Hugging Face 模型。預設會使用 Hugging Face 託管的 Inference API,可提供自己的 API key 或免 key 使用;亦可執行 `pip install transformers` 在本機運算。它支援多個模型並行或串聯,文中示範以 3 行程式碼翻譯並摘要芬蘭新聞文章。
文章展示 Gradio 2.0 如何以一行程式碼建立模型 GUI,並串聯或並行組合 Hugging Face 模型,提供比較模型及串接多步任務的實作參考。
轉載自 Gradio 網誌。
Hugging Face Model Hub 收錄了用戶提交的超過 10,000 個機器學習模型。當中有各式各樣的自然語言處理模型,例如可在芬蘭語和英語之間互譯,或辨識中文語音的模型。最近,Hub 更擴展至涵蓋圖像分類和音訊處理模型。
Hugging Face 一直致力令模型更易取得和使用。transformers 程式庫讓你只需幾行程式碼便可載入模型。載入模型後,便可透過程式對新資料作出預測。 但使用機器學習模型的不只有程式設計師! 越來越常見的機器學習應用情境,是向跨領域團隊展示模型,或讓非程式設計師使用模型(以協助發現偏見、失效環節等)。
Gradio 程式庫讓機器學習開發者輕鬆地根據機器學習模型建立示範和圖形用戶介面,並免費分享給協作者,過程就像分享 Google 文件連結一樣簡單。我們很高興宣佈,Gradio 2.0 程式庫讓你載入並使用幾乎任何 Hugging Face 模型 並透過圖形介面操作,而且只需 1 行程式碼。以下是一個例子:
預設情況下,這會使用 HuggingFace 託管的 Inference API(你可以提供自己的 API 金鑰,也可以不使用 API 金鑰而透過公開存取),又或者按需要執行 pip install transformers,在本機運算模型。
想自訂示範嗎?你可以傳入自己的參數,覆寫Interface 類別的任何預設參數:
等等,還有更多! Model Hub 已有 10,000 個模型;我們不只把模型視為獨立的程式碼,也視它們為可組合和混搭的積木,用來建立更精密的應用程式和示範。
例如,Gradio 可讓你以 平行方式 載入多個模型(想像一下,你想比較 Hugging Face 的 4 個不同文字生成模型,看看哪個最適合你的用途):
你也可以把模型放在 串聯配置。這樣便可輕鬆利用多個機器學習模型建立複雜應用程式。例如,只需 3 行程式碼,我們便可建立一個將芬蘭新聞文章翻譯並摘要的應用程式:
你甚至可以把多個模型放在 串聯配置,再與彼此以 平行方式 運作的模型互相比較(這部分就留給你親自嘗試!)。想試試以上功能,只需安裝 Gradio(pip install gradio),再挑選一個想試用的 Hugging Face 模型即可。立即開始使用 Gradio 和 Hugging Face 建構吧! 🧱⛏️
來源:Hugging Face Blog · huggingface.co



