Google 發佈可在智能手機運行的多模態嵌入模型 EmbeddingGemma 2
Google、スマートフォンで動くマルチモーダル埋め込みモデル「EmbeddingGemma 2」を公開
Google 於2026年10月6日公開 EmbeddingGemma 2,這款 740M 參數的多模態嵌入模型可在智能手機及 PC 運行,將文字、程式碼、圖像、音訊及影片映射至共同向量空間。模型採用 Apache 2.0 授權,支援搜尋、分類等用途,並可與 Gemma 4 配合在端側構建 RAG;其上下文窗口擴至初代的 4 倍,即 8192 個 tokens。
Googleは2026年10月6日、スマートフォンやPC上で動作する埋め込みモデル「EmbeddingGemma 2」を公開した。テキストやコード、画像、音声、動画を共通のベクトル空間で表現し、検索や分類などに利用できる。パラメーター数は7億4000万で、Apache 2.0ライセンスで提供する。
Introducing EmbeddingGemma 2, a new open multimodal model that sets the standard for on-device efficiency.
- our first open, natively multimodal embedding model
- handles text, code, image, video, and audio tasks within a lightweight, modular 740M parameter form factor
- ideal for offline, privacy-first RAG when paired with Gemma 4
- outperforms some specialist models more than twice its size
Weights available now on Hugging Face.
— Sundar Pichai (@sundarpichai) October 6, 2026
テキストに加えて画像・音声・動画の埋め込みを生成
EmbeddingGemma 2は、データの意味や特徴を数値の列であるベクトルに変換する。生成したベクトルは、関連するデータの検索や分類、似たデータをまとめるクラスタリングなどに利用できる。初代がテキストを対象としていたのに対し、EmbeddingGemma 2は画像・音声・動画にも対応する。これらの異なる形式のデータを共通のベクトル空間で扱える。
Googleは、音声メモを手掛かりに動画の特定の場面を探したり、テキストで長時間の録音に含まれる情報を検索したりする例を挙げている。処理はスマートフォンやPC内で完結するため、インターネット接続なしで動作する検索アプリを開発できる。
生成AIモデルのGemma 4と組み合わせれば、検索拡張生成(RAG)の仕組みも端末内に構築できる。EmbeddingGemma 2が端末内のファイルを検索し、Gemma 4が検索結果を基に回答を生成する。
用途に応じて軽量化、コンテキスト長は初代の4倍に
EmbeddingGemma 2はGemma 4のアーキテクチャを基に開発された。2億7000万パラメーターのテキストモデルに、1億7000万パラメーターの画像用エンコーダーと3億パラメーターの音声用エンコーダーを組み合わせている。エンコーダーは各形式の入力を処理する部分で、用途に必要なものだけを読み込める。
量子化によって数値の精度を下げ、モデルを軽量化することもできる。Googleによると、量子化したモデルをGoogle Pixel 11 Proで動かした場合、テキスト用の重みに必要なアクティブRAMは最小約191MB、全形式を扱うモデルでは約567MBとなる。
出力ベクトルの次元数は768から512、256、128に減らせる。これにより、保存に必要な容量を抑えられる。モデルカードによると、256次元まで減らしても品質への影響は小さい。128次元ではマルチモーダルの品質が大きく低下するため、この設定は主にテキストのみを扱う用途に適しているという。
一度に扱える入力の長さを示すコンテキストウィンドウは、初代の4倍となる8192トークンに拡大した。入力するデータの形式を1種類に限る場合、テキストは8192トークン、音声は約5.5分まで扱える。画像と動画の入力上限は、デフォルト設定でそれぞれ約29枚、約58フレームとなる。複数の形式を組み合わせる場合も、合計8192トークン以内に収める必要がある。
コードの埋め込み性能が向上、画像の評価結果も公開
Googleが公表した評価では、コードの埋め込み性能を測るMTEB Codeのスコアは初代の68.76から78.68へ9.92ポイント向上した。多言語テキストのMTEBでは、初代の61.15に対して61.36と、同程度のスコアを記録した。いずれもフル精度のモデルを使い、768次元のベクトルを出力して評価した。
画像の埋め込み性能を測るMIEB(Lite)のスコアは64.64だった。Googleが公開した比較図では、EmbeddingGemma 2は、パラメーター数がより多い一部のモデルをスコアで上回っている。
モデルの配布先とブラウザー向けデモ
Googleはモデルの重みをHugging FaceとKaggleで公開している。Gemini Enterprise Agent PlatformのModel Gardenでも近日提供する予定としている。
Transformers.jsの開発者であるJoshua Lochner氏(Xenova)は、同ライブラリとWebGPUを使ってブラウザー内で動かすEmbeddingGemma 2 WebGPUデモを紹介している。
NEW: EmbeddingGemma 2 just released on Hugging Face. Project text, images, video, and audio into a single, unified embedding space.
At just 740M parameters, it can even run 100% locally in your browser on WebGPU with 🤗 Transformers.js!
Try it yourself 👇 https://t.co/Ukoj7ZGMVS
— Xenova (@xenovacom) October 6, 2026
來源:gihyo.jp · gihyo.jp