HuggingChat 推出 Community Tools,支援將 Hugging Face Spaces 轉為工具
Introducing Community Tools on HuggingChat
HuggingChat 推出 Community Tools,讓使用者可把 Hugging Face 上的公開 Space 轉成模型可直接調用的工具。這些工具可用於理解圖片、生成影片或文字轉語音,也可建立文件 RAG 工具。建立助手時最多可選 3 個工具;該功能目前仍屬實驗階段。
文章展示如何把公開 Space、自建 Gradio 工具和文件 RAG 接入 HuggingChat,並在助手中組合最多 3 個工具,提供從建立到配置的實操路徑。
今天,我們為 HuggingChat 推出最新功能:Community Tools!這項功能讓你可將任何喜愛的 Hugging Face Space 轉換成工具,讓模型直接在 HuggingChat 中使用。
這項功能亦擴展了 HuggingChat 支援的模態。你現在可使用社羣工具理解圖片、生成影片,或透過文字轉語音模型回答。可能性無窮無盡,任何人都可以利用 Hugging Face Spaces 建立工具!到此探索現有工具。
本文會介紹建立社羣工具的幾種用例:
將社羣 Space 轉換成工具
你可以將任何人的公開 Space 轉換成工具,方便直接在 HuggingChat 使用最新模型。以下以 DamarJati/FLUX.1-RealismLora 為例。
首先建立新工具並填寫欄位。只要將 Space 網址輸入 Hugging Face Space URL 欄位,可用的函式和參數便會自動填入。
部分欄位必須正確填寫,才能確保工具發揮最佳效能。
- 工具説明:這段説明會傳送給 LLM,解釋工具的功能。請保持簡短,並描述工具的用途。
- AI 函式名稱:工具會以程式碼函式表示,這就是工具的函式名稱。名稱應簡短、獨特而且易於理解。
- 引數: 這些是 LLM 可以填入的工具參數,包括:
- 必填:模型必須填入數值才能使用此工具,因此必須清楚描述該參數。
- 選填:欄位會提供預設值,但模型可按需要覆寫。
- 固定:建立工具時設定的值固定不變,模型無法修改。
你也可以參考其他工具的定義,更瞭解如何建立工具。(範例)
工具建立完成後,就可以啟用它,並配合支援工具的模型使用!
自行建立自訂工具
現有的 Spaces 已能涵蓋許多用途;如果你具備基本 Python 編寫能力,也可以輕鬆為自己建立自訂工具。以下以擲骰工具作簡單示範,因為 LLM 自行挑選隨機數字的能力相當差。
首先,在 Hugging Face 建立新的 Gradio Space。免費的 CPU Basic 方案已足以應付此用途。Space 必須設為公開,才能在 HuggingChat 中使用。
在 Space 儲存庫中建立簡單的 app.py 應用程式;以我們的擲骰範例來説,程式碼如下:
import gradio as gr
import random
def roll_dice(sides=6):
return random.randint(1, sides)
demo = gr.Interface(
fn=roll_dice,
inputs=gr.Number(value=6, label="Number of Sides"),
outputs="text",
title="Dice Roller",
description="Enter the number of sides for the dice and get the roll result."
)
demo.launch()
如果你不熟悉 Gradio,建立介面其實很容易入門;你可以在此處查看文件。
你可以在單一 Space 中加入多個函式,方便管理工具。
完成後,推送變更;待 Space 部署完成,你就可以像前面示範一樣,在 HuggingChat 為它建立社羣工具。
使用 Community Tools 提升助理能力
你可以前往工具頁面,選擇喜歡的工具並直接啟用;也可以將工具組合到助理中。
使用支援工具呼叫的模型建立助理時,現在可以選擇工具。搜尋工具名稱,最多可加入 3 種不同工具。以我們的例子來説,可以建立一個能使用圖片生成和擲骰工具的 Game Master 助理。
你可以在系統指示欄位告訴模型何時使用工具。
為自己的文件建立 RAG 工具
配合這次發布,我們建立了一個簡單的 RAG 工具,你可以複製後直接在 HuggingChat 中詢問自己的文件。首先將這個 Space複製到自己的帳戶,然後把想要解析的檔案放入該 Space 的 sources/ 資料夾。
Space 啟動後,你就可以像前面介紹的一樣,在 HuggingChat 輕鬆為它建立工具。
與我們分享意見
隨着 Community Tools 推出,我們希望你能以多模態內容和自訂工具提升聊天體驗。此功能仍屬實驗階段;如果你遇到不支援的 Spaces 或無法運作的工具,請在意見討論串與我們分享!
來源:Hugging Face Blog · huggingface.co