跳到正文
Hugging Face Blog·· 2026-05-15精選AI 評分63

Granite Embedding Multilingual R2 發佈兩款 Apache 2.0 多語嵌入模型,支援 32K 上下文

Granite Embedding Multilingual R2: Open Apache 2.0 Multilingual Embeddings with 32K Context — Best Sub-100M Retrieval Quality

AI 導讀

IBM Granite 發佈兩款採 Apache 2.0 授權的多語嵌入模型:97M 參數的 granite-embedding-97m-multilingual-r2 和 311M 參數的 granite-embedding-311m-multilingual-r2。

推薦理由

文章提供 97M 與 311M 版本在多語檢索、長文及程式碼基準的比較,並交代 Matryoshka 維度選項對儲存與部署取捨的影響。

正文 · 繁體中文
重點摘要:兩款以 ModernBERT 為基礎的新 Apache 2.0 多語嵌入模型:一款是 97M 參數精簡模型,在 MTEB Multilingual Retrieval 得分 60.3,勝過所有開放式、參數少於 100M 的多語嵌入模型;另一款是 311M 完整版模型,在 MTEB Multilingual Retrieval 得分 65.2(開放式、參數少於 500M 的模型中排名第 2),並支援 Matryoshka。兩款模型均涵蓋 200 多種語言,針對 52 種語言調校,支援 32K 上下文(R1 的 64 倍),並新增涵蓋 9 種程式語言的程式碼檢索。

Granite Embedding Multilingual R2

本文內容: 專為企業應用而設 · 強大的 100M 以下多語模型 · R1 的改進之處 · 訓練 311M 完整版模型 · 建構 97M 精簡多語模型 · 基準測試結果 · Matryoshka 嵌入 · 部署選項 · 框架整合者須知 · 應該使用哪款模型? · 試用模型

多語嵌入模型一直面對一個矛盾:語言涵蓋範圍廣,通常要以模型體積較大為代價;而小型模型通常會犧牲語言支援。如果你的工作涉及多種語言,例如在多語語料庫上進行檢索增強生成、跨語言搜尋,或在國際團隊中檢索程式碼,你大概曾經要在速度夠快與效能夠好之間二選一。

Granite Embedding Multilingual R2 的推出大幅縮小了這個差距。我們推出兩款全新的多語嵌入模型:

兩款模型均支援200 多種語言,並提升了52 種語言及程式碼的檢索品質;上下文長度最高可達32,768 個 token(較上一代 R1 增加 64 倍),並以Apache 2.0 授權發布。它們開箱即用,支援 sentence-transformers 和 transformers,毋須針對特定任務提供指示;只需更改一行模型名稱,便可在 LangChain、LlamaIndex、Haystack 和 Milvus 中作為直接替代品。對目前預設只支援英文的框架而言,改動這一行便可讓社羣內所有用戶支援 200 多種語言,毋須更改 API、加入新相依項目,亦毋須用戶修改程式碼。兩款模型均附有 ONNX 和 OpenVINO 權重,支援以 CPU 最佳化推論。

支援度較高的 52 種語言(按此展開)

底層編碼器曾以 200 多種語言的文本進行預訓練,因此可為這些語言產生通用嵌入。以下 52 種語言另有明確的檢索配對及跨語言訓練,以提升檢索品質:

阿爾巴尼亞語 (sq)、阿拉伯語 (ar)、阿塞拜疆語 (az)、孟加拉語 (bn)、保加利亞語 (bg)、加泰羅尼亞語 (ca)、中文 (zh)、克羅地亞語 (hr)、捷克語 (cs)、丹麥語 (da)、荷蘭語 (nl)、英語 (en)、愛沙尼亞語 (et)、芬蘭語 (fi)、法語 (fr)、格魯吉亞語 (ka)、德語 (de)、希臘語 (el)、希伯來語 (he)、印地語 (hi)、匈牙利語 (hu)、冰島語 (is)、印尼語 (id)、意大利語 (it)、日語 (ja)、哈薩克語 (kk)、高棉語 (km)、韓語 (ko)、拉脱維亞語 (lv)、立陶宛語 (lt)、馬來語 (ms)、馬拉地語 (mr)、挪威語 (no)、波斯語 (fa)、波蘭語 (pl)、葡萄牙語 (pt)、羅馬尼亞語 (ro)、俄語 (ru)、塞爾維亞語 (sr)、斯洛伐克語 (sk)、斯洛文尼亞語 (sl)、西班牙語 (es)、斯瓦希里語 (sw)、瑞典語 (sv)、他加祿語 (tl)、泰盧固語 (te)、泰語 (th)、土耳其語 (tr)、烏克蘭語 (uk)、烏爾都語 (ur)、烏茲別克語 (uz)、越南語 (vi)。

此外,模型亦以程式碼(Python、Go、Java、JavaScript、PHP、Ruby、SQL、C、C++)訓練,並支援跨語言程式碼檢索。

專為企業應用而設

兩款嵌入模型均以 IBM 精選資料集、公開資料,以及內部產生或合成資料混合訓練。訓練所用的公開網絡衍生資料,會經 IBM 開發的品質、去重及治理流程挑選和篩選,以降低下游商業用途的風險。我們刻意不使用 MS-MARCO 訓練資料集,以及明確限制非商業用途授權的資料集。模型使用 GneissWeb 預訓練;這是 IBM 精選、取自公開網絡內容的資料集,並經 IBM 資料準備及治理工具處理,亦結合其他 IBM 精選及公開來源。資料集會經 IBM 治理審查,以評估授權考量、所有權訊號及個人資料風險。這些流程旨在促進負責任使用及企業部署。

強大的 100M 以下多語模型

這次發布最突出的是 granite-embedding-97m-multilingual-r2。它只有 97 million 個參數,在涵蓋 18 種語言的 MTEB Multilingual Retrieval 得分為 60.3,是我們所知所有參數少於 100M 的開放式多語嵌入模型中檢索分數最高的一款。同一模型規模中排名第二的 multilingual-e5-small,在同一基準測試中得分 50.9;在成熟的基準測試上,兩者相差+9.4 分。

它的大小約為 311M 完整版模型的三分之一,但在多語、程式碼及長文件基準測試中,仍保留大部分檢索品質。相較上一代,MTEB Multilingual Retrieval 提升+12.2 分;這得益於新架構、更好的訓練資料及創新的剪枝方法(下文詳述)。完整版 granite-embedding-311m-multilingual-r2 在同一基準測試中得分 65.2,較 R1 提升+13.0 分。

R1 的改進之處

Granite Embedding Multilingual R1 模型採用 XLM-RoBERTa 編碼器,上下文視窗為 512 個 token。R2 一代則是由底層重新建構:

Granite Embedding R2 Architecture

ModernBERT 是近期推出的編碼器架構,重新檢視原始 BERT 設計,並加入過去五年 Transformer 研究的技術。這項轉變帶來多項實際好處:交替使用不同注意力長度,可減少處理長序列所需的運算(大幅提升長序列吞吐量);旋轉位置嵌入令模型在不使用舊架構常見位置內插變通方法的情況下,支援 32K 上下文視窗;此外,Flash Attention 2.0 支援可加快現代 GPU 上的編碼速度。

新的多語 tokenizer 值得特別一提。我們沒有沿用 XLM-RoBERTa 的 250K token 詞彙表,而是採用原有且具備強大多語及程式碼涵蓋能力的 tokenizer。311M 模型使用 Gemma 3 tokenizer(262K 個 token);97M 模型則以 GPT-OSS tokenizer 為起點,剪枝至精簡的 180K token 詞彙表,在維持廣泛多語涵蓋能力的同時,減少嵌入表的參數佔用。Tokenizer 效率比很多人想像中更重要:32K token 視窗聽起來很厲害,但如果 tokenizer 要耗用一半視窗來編碼一段泰文,實際效用就會大打折扣。

訓練 311M 完整版模型

311M 模型是 22 層 ModernBERT 編碼器,採用 262K token 多語詞彙表,並透過多階段流程訓練:

  1. 知識蒸餾:模型同時向多個教師模型學習。教師模型包括 Granite 3.3 Instruct 和 Mistral v0.2 Instruct 解碼器模型;它們進一步針對文本嵌入微調,把檢索專用知識轉移至 311M 編碼器架構。
  2. 對比式微調:以多語檢索配對進行標準對比訓練,在 52 種語言及程式碼中配對查詢與相關及困難負例段落,令模型更能分辨相關與不相關結果。
  3. 模型合併:訓練後,我們會合併不同訓練階段及設定的檢查點。這樣可把針對不同目標最佳化的模型(例如多語廣度與英語深度)的優勢,整合到單一組權重中,毋須額外訓練運算。
  4. Matryoshka 表徵學習:模型以 Matryoshka 目標訓練,因此可把 768 維嵌入截短至 512、384、256 或 128 維,品質只會輕微下降(見下文的 Matryoshka 嵌入)。

結果是模型在 MTEB Multilingual Retrieval 得分 65.2,整體平均得分 56.3;較上一代 R1 平均提升 +14.5 分。

建構 97M 精簡多語模型

97M 模型結合詞彙選擇與知識蒸餾訓練:

  1. 詞彙選擇:把 262K token 詞彙表縮減為專門訓練的 180K token 詞彙表,在保留廣泛多語涵蓋能力的同時,大幅縮小嵌入表。
  2. 知識蒸餾:接着以多個教師模型(包括 Granite 4.1 8B 和以 Mistral Instruct 為基礎的解碼器教師模型)進行知識蒸餾微調,並配合對比訓練改善檢索品質。

這種方法把多個強大教師模型的檢索專用知識轉移過來,同時減少模型參數而不犧牲語言涵蓋能力。結果是一款效率極高的精簡模型:MTEB Multilingual Retrieval 得分 60.3,而完整版模型為 65.2;模型體積則約小 3 倍。

基準測試結果

多語檢索

以下是主要基準測試組合的效能,按模型大小排序。分數為各基準測試內不同任務的平均值(越高越好):

模型 參數量 啟用參數量 嵌入維度 MTEB 多語檢索 (18) 程式碼 (12) 英語檢索 (10) LongEmbed (6) RaR-b (17)
F2LLM-v2-80M 80M 32M 320 50.1 68.0 47.5 31.7 17.9
multilingual-e5-small 118M 22M 384 50.9 53.5 46.5 38.8 20.3
granite-embedding-107m-multilingual (R1) 107M 11M 384 48.1 40.7 47.9 34.3 17.1
paraphrase-multilingual-MiniLM-L12-v2 118M 22M 384 36.6 23.5 35.9 20.9 10.9
jina-embeddings-v5-text-nano 212M 113M 768 63.3 71.2 58.8 63.6 25.2
harrier-oss-v1-270m 268M 100M 640 66.4 62.4 52.1 64.9 32.9
multilingual-e5-base 278M 86M 768 52.7 52.6 49.0 40.5 23.4
granite-embedding-278m-multilingual (R1) 278M 86M 768 52.2 48.5 51.5 37.7 18.9
embeddinggemma-300m 308M 106M 768 62.5 68.7 54.6 55.4 26.1
gte-multilingual-base 305M 113M 768 57.2 57.5 50.8 62.1 19.0
snowflake-arctic-embed-m-v2.0 305M 113M 768 54.8 55.2 58.4 55.4 23.3
multilingual-e5-large 560M 304M 1024 53.7 55.8 51.5 40.4 25.4
text-embedding-3-small (OpenAI, 僅限 API) — — 1536 50.7 — 53.8 53.6 23.2
granite-embedding-97m-multilingual-r2 97M 28M 384 60.3 60.4 50.1 65.6 24.9
granite-embedding-311m-multilingual-r2 311M 110M 768 65.2 (#2) 63.8 (#3) 52.6 (#5) 71.7 (#1) 28.0 (#2)

以下幾點特別值得留意:

  • 97M R2 模型的平均分數及大部分個別基準測試均勝過 multilingual-e5-base 和 gte-multilingual-base(約 300M 參數模型),儘管模型體積小約 3 倍。
  • paraphrase-multilingual-MiniLM-L12-v2 是廣泛使用的框架預設模型,得分為 36.6,比 97M R2 模型低整整 +23.7 分;後者體積也略小(97M 對 110M 參數),輸出維度同為 384。
  • LongEmbed 是 R1 升級至 R2 後進步最大的一項:97M 模型提升 +31.3 分,311M 模型提升 +34.0 分。這直接得益於 32K 上下文視窗:R1 受 512-token 上限所限,評估法律合約時只能看到首頁。許多實際多語工作負載都涉及長文件(法律合約、技術手冊、研究論文、多頁報告),R1 根本無法完整讀取。
  • 程式碼檢索大幅改善:97M 和 311M 模型較 R1 分別提升 +19.7 及 +15.3 分,反映新程式碼訓練集、更大的上下文視窗及更佳訓練方法所帶來的效益。
  • 放眼更廣的競爭環境,harrier-oss-v1-270m 在 MTEB Multilingual Retrieval(66.4)和 RaR-b(32.9)領先;jina-embeddings-v5-text-nano 則在程式碼(71.2)和英語檢索(58.8)領先。311M Granite 模型的平均表現具競爭力(56.3),並在 LongEmbed(71.7)領先;其編碼吞吐量也大幅高於 jina-embeddings-v5-text-nano(見下方速度表)。

速度與吞吐量

對生產工作負載而言,編碼速度十分重要;尤其是要為數百萬份文件建立索引,或需要低延遲查詢編碼時。我們在單張 NVIDIA H100 GPU 上使用 512-token 區塊量度延遲與吞吐量:

Speed vs. Quality: 97M model matches 300M-class quality at 3x the parameter efficiency

97M 模型每秒可編碼超過 2,500 份文件,吞吐量與 multilingual-e5-small 相若,檢索品質卻高得多。311M 模型每秒約可處理 1,800 份文件,檢索品質勝過 jina-embeddings-v5-text-nano(65.2 對 63.3),編碼速度更快逾 5.5 倍(注意:速度數字採用最新版 transformer 程式碼計算;與上一個 4.57 版本相比,Jina 和 Granite 模型的速度都出現倒退,詳情請參閲我們的技術報告)。在此列出的競爭模型中,harrier-oss-v1-270m 的速度與檢索分數組合最佳。

Matryoshka 嵌入(311M)

311M 模型支援 Matryoshka Representation Learning,可把完整的 768 維嵌入截短至 512、384、256 或 128 維,同時讓品質平穩下降。當儲存空間、記憶體或相似度運算成本受限時,這項功能很有用:256 維嵌入只佔 768 維嵌入三分之一的儲存空間,計算 cosine similarity 的成本也按比例降低。

以下是不同嵌入維度下的檢索品質:

Matryoshka embeddings: graceful quality degradation across truncated dimensions

降低維度所造成的品質損失小得驚人。從 768 維減至 256 維(儲存及相似度運算成本減少 3 倍),MTEB Multilingual Retrieval 只下降 0.5 分(65.2 → 64.7),程式碼檢索亦只下降 0.5 分(63.9 → 63.4)。即使減至 128 維(減少 6 倍),模型在 MTEB Multilingual Retrieval 仍得 63.7,程式碼檢索得 62.3,保留完整維度效能的超過 97%。實際上,你可以大幅縮小索引並降低搜尋延遲,而對結果品質影響甚微。(注意:上圖的英語及多語檢索結果以 1024 上下文長度評估,程式碼則以 8192 評估。)

作為比較,311M 模型截短至 384 維(與 97M 模型原生輸出維度相同)後,在 3 個基準測試上仍全面勝過 97M 模型。如果你需要 384 維嵌入,而且負擔得起 311M 模型的編碼成本,採用 Matryoshka 截短會是更佳選擇。

from sentence_transformers import SentenceTransformer

model = SentenceTransformer("ibm-granite/granite-embedding-311m-multilingual-r2")

# Full 768-dimensional embeddings
full = model.encode(["example text"])
print(full.shape)  # (1, 768)

# Truncated to 384 dimensions
small = model.encode(["example text"], truncate_dim=384)
print(small.shape)  # (1, 384)

97M 模型不支援 Matryoshka;384 維已經相當精簡。

跨語言檢索

以下是 MTEB Retrieval 中跨語言任務的平均表現。Belebele 評估 122 種語言的跨語言段落配對;MLQA 則評估 7 種語言的跨語言抽取式問答檢索。

模型 Belebele 檢索 MLQA 檢索
granite-embedding-107m-multilingual (R1) 55.1 60.5
granite-embedding-278m-multilingual (R1) 62.2 63.0
granite-embedding-97m-multilingual-r2 52.9 60.5
granite-embedding-311m-multilingual-r2 66.5 67.1

311M R2 模型較上一代 R1 在 Belebele 提升 +4.3 分,在 MLQA 提升 +4.1 分,顯示大規模模型在兩項基準測試中的跨語言遷移能力均有所提升。

97M R2 模型在 Belebele 的得分較低(52.9 對 55.1,−2.2),而在 MLQA 則與上一代 R1 持平(60.5)。Belebele 的差距是剪枝及縮減詞彙表過程固有的取捨:R2 的訓練優先涵蓋更廣的 18 種語言 MTEB Multilingual Retrieval 資料集(較 R1 提升 +12.2),以及長文件檢索(+31.3);較小的詞彙表(180K 對 250K token)和較少的層數(12 對 22)則會影響較窄範圍的跨語言遷移任務。如果你的主要用途是多組語言配對之間的跨語言遷移,完整版 311M 模型會是較佳選擇。

部署選項

兩款模型均提供多種生產環境部署方式。安裝核心程式庫:

pip install sentence-transformers

Sentence Transformers(大部分用戶建議選用):

from sentence_transformers import SentenceTransformer, util

model = SentenceTransformer("ibm-granite/granite-embedding-97m-multilingual-r2")

queries = [
    "What is the tallest mountain in Japan?",          # English
    "Wer hat das Lied Achy Breaky Heart geschrieben?", # German
    "ドイツの首都はどこですか?",                            # Japanese
]

passages = [
    "富士山は、静岡県と山梨県にまたがる活火山で、標高3776.12 mで日本最高峰の独立峰である。",  # Japanese
    "Achy Breaky Heart is a country song written by Don Von Tress.",                        # English
    "Berlin ist die Hauptstadt und ein Land der Bundesrepublik Deutschland.",                # German
]

q_emb = model.encode(queries)
p_emb = model.encode(passages)
print(util.cos_sim(q_emb, p_emb))
# Each query scores highest against its matching passage — across languages

LangChain(pip install langchain-huggingface):

from langchain_huggingface import HuggingFaceEmbeddings

embeddings = HuggingFaceEmbeddings(
    model_name="ibm-granite/granite-embedding-97m-multilingual-r2"
)

docs = embeddings.embed_documents([
    "富士山は日本最高峰の独立峰です。",
    "Mount Fuji is Japan's highest peak.",
])
query = embeddings.embed_query("What is Japan's tallest mountain?")
# Drop-in replacement anywhere LangChain accepts an Embeddings object

LlamaIndex(pip install llama-index-embeddings-huggingface):

from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.core import Settings

embed_model = HuggingFaceEmbedding(
    model_name="ibm-granite/granite-embedding-97m-multilingual-r2"
)
Settings.embed_model = embed_model  # applies globally to any index or pipeline

Haystack(pip install sentence-transformers haystack-ai)

from haystack.components.embedders import (
    SentenceTransformersDocumentEmbedder,
    SentenceTransformersTextEmbedder,
)
from haystack.components.retrievers.in_memory import InMemoryEmbeddingRetriever
from haystack.dataclasses import Document
from haystack.document_stores.in_memory import InMemoryDocumentStore

doc_embedder = SentenceTransformersDocumentEmbedder(
    model="ibm-granite/granite-embedding-97m-multilingual-r2"
)
query_embedder = SentenceTransformersTextEmbedder(
    model="ibm-granite/granite-embedding-97m-multilingual-r2"
)
doc_embedder.warm_up()
query_embedder.warm_up()

# Embed and index documents
document_store = InMemoryDocumentStore()
result_docs = doc_embedder.run(documents=[
    Document(content="富士山は日本最高峰の独立峰です。"),
    Document(content="Mount Fuji is Japan's highest peak."),
    Document(content="Achy Breaky Heart is a country song written by Don Von Tress."),
    Document(content="Berlin ist die Hauptstadt und ein Land der Bundesrepublik Deutschland."),
])
document_store.write_documents(result_docs["documents"])

# Embed query and retrieve
result_query = query_embedder.run(text="What is Japan's tallest mountain?")
retriever = InMemoryEmbeddingRetriever(document_store=document_store)
results = retriever.run(query_embedding=result_query["embedding"], top_k=2)
for doc in results["documents"]:
    print(f"{doc.score:.3f}  {doc.content}")
# 0.961  Mount Fuji is Japan's highest peak.
# 0.913  富士山は日本最高峰の独立峰です。

Milvus(pip install pymilvus sentence-transformers)

from pymilvus import MilvusClient
from sentence_transformers import SentenceTransformer

model = SentenceTransformer("ibm-granite/granite-embedding-97m-multilingual-r2")

# Use "./milvus.db" for local persistence or a server URI for production
client = MilvusClient(":memory:")
client.create_collection(collection_name="multilingual_docs", dimension=384)

docs = [
    "富士山は日本最高峰の独立峰です。",
    "Mount Fuji is Japan's highest peak.",
    "Achy Breaky Heart is a country song written by Don Von Tress.",
    "Berlin ist die Hauptstadt und ein Land der Bundesrepublik Deutschland.",
]
embeddings = model.encode(docs).tolist()
client.insert(
    collection_name="multilingual_docs",
    data=[{"id": i, "vector": emb, "text": doc} for i, (emb, doc) in enumerate(zip(embeddings, docs))],
)

query_emb = model.encode(["What is Japan's tallest mountain?"]).tolist()
results = client.search(
    collection_name="multilingual_docs",
    data=query_emb,
    limit=2,
    output_fields=["text"],
)
for hit in results[0]:
    print(f"{hit['distance']:.3f}  {hit['entity']['text']}")
# 0.961  Mount Fuji is Japan's highest peak.
# 0.913  富士山は日本最高峰の独立峰です。

兩款模型亦附有預先轉換的 ONNX 和 OpenVINO 權重,以便在 CPU/加速器上進行最佳化推論;可透過 vLLM 作為嵌入端點提供服務(vllm serve ... --task embed),也可使用 Ollama 配合 llama.cpp 轉換成 GGUF 格式。完整部署示例請參閲模型卡。

框架整合者須知

如果你負責維護嵌入框架、向量儲存或 RAG pipeline 程式庫,並正考慮把這些模型設為預設選項,以下是你需要知道的事項:

  • 授權:Apache 2.0,訓練時沒有使用 MS-MARCO
  • 可直接替換:毋須加入任務專用指示前綴;在 API 層面與 all-MiniLM-L6-v2 行為相同。現有呼叫 .encode() 的程式碼毋須修改。
  • 維度:97M 模型輸出 384 維,311M 模型輸出 768 維,與最常見的現有預設值相同。毋須遷移索引。
  • 模型大小:97M 模型的權重(safetensors)為 195 MB,不到 paraphrase-multilingual-MiniLM-L12-v2(471 MB)這款最常見多語預設模型的一半。量化後的 ONNX 權重只有 98 MB,與 all-MiniLM-L6-v2(91 MB)相若,同時涵蓋 200 多種語言。
  • 適用於 CPU:附有 ONNX 和 OpenVINO 權重,以便最佳化 CPU 推論。入門教學毋須依賴 GPU。
  • 預設支援多語言:如果目前的預設模型只支援英文,只需一行替換,就能讓社羣內所有用戶支援 200 多種語言,毋須改動用戶的程式碼。
  • 穩定識別碼:Hugging Face 上的 ibm-granite/granite-embedding-97m-multilingual-r2,由 IBM 以 Granite 模型系列維護。

如要討論在你的專案中採用這些模型作為預設選項,請到 ibm-granite/granite-embedding-models 開啟 issue。

應該使用哪款模型?

這兩款多語模型屬於更廣泛的 Granite Embedding R2 系列,系列亦包括兩款效能出色、專注英文的模型:granite-embedding-english-r2(149M 參數)和 granite-embedding-small-english-r2(47M 參數)。如果你的資料主要是英文,英文模型在英文基準測試中的檢索品質更高,模型佔用空間也較小,因為它們毋須把容量分配給 200 多種語言。

如果你需要…… 使用
最佳多語檢索品質 granite-embedding-311m-multilingual-r2
可調整嵌入維度(儲存空間/速度取捨) granite-embedding-311m-multilingual-r2 (Matryoshka)
最高吞吐量/邊緣部署/低延遲 granite-embedding-97m-multilingual-r2
多組語言配對之間最佳的跨語言遷移能力 granite-embedding-311m-multilingual-r2
資料主要為英文 granite-embedding-english-r2 或 granite-embedding-small-english-r2

試用模型

兩款模型現已在 Hugging Face 的 IBM Granite Embedding 系列中提供:

你可以透過 Hugging Face Spaces 上的 Granite Embedding 示範在此互動試用小型模型(使用 CPU),或在 Google Colab 執行完整示例 Notebook:

Open In Colab

你可以在此Granite Multilingual Embedding R2 報告查看涵蓋完整訓練方法、逐語言評估及剪枝消融測試的詳細技術報告。如有問題、意見或遇到問題,請到 GitHub 上的 ibm-granite/granite-embedding-models。

框架維護者:如想在專案中採用這些模型作為預設選項,請到 ibm-granite/granite-embedding-models 開啟 issue;我們樂意協助整合、測試,並解答授權或部署相關問題。

試用看看吧;如果這些嵌入令你滿意,歡迎在 Hugging Face 按下 ❤️。我們的模型也有感情,而每個 +1 都能讓它們在夜裏倍感温暖。

來源:Hugging Face Blog · huggingface.co