Google發布EmbeddingGemma 2 用於邊緣裝置的多模態搜尋

Google 於 2026 年 10 月 6 日宣布發布 EmbeddingGemma 2，這是一款在 Apache 2.0 授權下的開源多模態嵌入模型。該模型定位為輕量級的裝置端檢索、路由與相似度搜尋解決方案，涵蓋文字、程式碼、影像、影片與音訊。Google 透過在 Hugging Face 與 Kaggle 公開模型權重，邀請開發者直接在邊緣硬體上執行模型，而不必依賴雲端 API。公告強調，此模型並非用於生成任務，而是用於離線產生嵌入，可為本地搜尋引擎、推薦管線與基於內容的過濾提供動力。

輕量級多模態嵌入模型

EmbeddingGemma 2 包含 7.4 億參數，能將五種資料模態——純文字、原始程式碼、靜態影像、影片畫格與音訊片段——共同編碼到單一的嵌入空間。統一的空間使得單一相似度搜尋索引能處理異質查詢，例如將口述描述匹配到相關程式碼片段，或檢索與文字提示相對應的影片畫格。Google 將其架構描述為基於 Transformer 的編碼器，在專用前端處理每種模態後，將表示投射到共通的 768 維向量中。模型的開源屬性允許研究人員檢查層結構、在特定領域資料上微調，或替換特定模態的元件。

針對純文字工作負載，Google 提供了一個僅使用 2.7 億參數的精簡配置。需要視覺理解的開發者可以附加一個 1.7 億參數的可選視覺編碼器，而音訊處理則再額外加入一個 3 億參數的編碼器。模組化設計意味著開發者可以在資源受限的裝置上僅執行文字實例，並在需要多模態輸入時載入額外的編碼器。Google 表示，這些可選編碼器與相同的嵌入頭相容，保持所有支援模態的統一向量格式。

Matryoshka 表示學習提升儲存效率

Google 重點介紹的關鍵創新是 Matryoshka 表示學習，這是一種無需重新訓練模型即可將預設的 768 維向量壓縮至 512、256 或 128 維的技術。此方法透過學習嵌套子空間來保留大部分相似度資訊，同時捨棄冗餘維度。根據 Google 的測量，將維度降至 128 可將儲存佔用縮小至原來的六分之一，從而在邊緣裝置的大型索引表上顯著降低記憶體消耗。壓縮後的向量仍相容於標準相似度度量（如餘弦相似度），可在現有流水線中直接替換使用。

Pixel 11 Pro 上的邊緣效能

Google 提供了 Pixel 11 Pro 的裝置級基準測試資料，這款旗艦手機於 2026 年初發布。量化後的僅文字版本 EmbeddingGemma 2 佔用約 191 MB 的活動 RAM，而完整的多模態堆疊（文字、視覺與音訊編碼器合計）約使用 567 MB。模型支援 8,000 token 的文字上下文視窗，最長 5.5 分鐘的音訊，單次推論可處理 29 張影像或 58 幀影片。上述數據顯示，一部高階智慧手機即可容納整個模型，並在無需外部協助的情況下即時產生混合媒體查詢的嵌入。

在 MTEB（Massive Text Embedding Benchmark）套件中，Google 報告 EmbeddingGemma 2 將程式碼子基準分數從 68.76 提升至 78.68。此提升反映了模型捕捉程式語言句法與語意模式的能力，對程式碼搜尋與重複偵測尤為有益。Google 將此結果定位為證據，表明一個 7.4 億參數的開源模型在特定任務上可以超越更大規模的專有嵌入，儘管該基準是供應商提供的測量，可能未涵蓋所有真實工作負載。

模型權重已在 Hugging Face 與 Kaggle 公開託管，Google 指出其相容常見執行環境，如 TensorFlow、PyTorch 與 ONNX。透過提供轉換腳本與示範推論流水線，Google 旨在降低開發者將 EmbeddingGemma 2 整合到行動應用、嵌入式系統或邊緣伺服器中的門檻。開源授權（Apache 2.0）允許商業使用、修改與再分發，這與 Google 推動社群驅動本地 AI 工具生態的整體策略相吻合。

Google 提醒，效能數據為供應商在特定硬體配置上測得，其他邊緣平台上可能有所不同。該模型針對檢索與路由進行最佳化，並非用於生成文字或內容創作，開發者不應期望它能取代大型語言模型在聊天或摘要情境中的作用。此外，儘管對旗艦手機而言儲存與 RAM 需求已相對溫和，但對缺乏數百兆位元組空閒記憶體的低階 IoT 裝置仍可能構成障礙。

對於構建私有、離線搜尋解決方案的開發者而言，EmbeddingGemma 2 提供了一條明確路徑，可在不將資料傳送至雲端的情況下統一多模態索引。諸如裝置端個人助理、安全文件管理系統或本地化推薦引擎等應用，現在可以在單一向量空間中嵌入文字、程式碼、影像、影片與音訊，並在本地執行相似度匹配。Matryoshka 的向量壓縮功能進一步降低了維護大型索引的成本，使在邊緣儲存媒介上儲存數百萬項目成為可能。

憑藉 EmbeddingGemma 2，Google 改變了可在裝置上執行的基準：單一開源模型現在能處理五種模態，適配現代智慧手機的記憶體範圍，並在程式碼理解基準上提供與專有模型相當的表現。此發布標誌著向更強大、注重隱私的邊緣 AI 轉變，並邀請開發者社群在無需依賴沉重雲端服務的前提下嘗試多模態檢索。