Google Cloud 上的 Gemma¶
Google Cloud 提供多種部署、服務與微調 Gemma 4 的途徑。請依您的需求挑選, 而非依產品名稱——每張卡片都會跳到下方的詳細說明。
服務它¶
全託管、可縮減至零、按使用量計費的 GPU 推論。
在 TPU 或 GPU 上自建服務叢集,實現高吞吐量與低延遲。
在 Cloud TPU 上實現頂尖的服務效能。
為敏感工作負載提供額外的控制與合規。
用它來建構¶
訓練它¶
Gemini Enterprise Agent Platform¶
Gemini Enterprise Agent Platform 是 Google Cloud 用於快速 建構與擴展機器學習專案的平台。Gemma 4 已收錄於 Model Garden——Gemini Enterprise Agent Platform 上的精選模型集合。 您可以直接從主控台測試與部署模型。
若要了解更多,請參閱以下頁面:
- Agent Platform 概覽:開始使用 Gemini Enterprise Agent Platform。
- 搭配 Gemini Enterprise Agent Platform 使用 Gemma:在 Gemini Enterprise Agent Platform 上使用 Gemma 開放模型。
Cloud Run¶
Cloud Run 是全託管的平台,可在 Google 高度可擴展的基礎設施上執行您的程式碼或容器。 使用 GPU 在 Cloud Run 上部署 Gemma 4,實現可縮減至零、按使用量計費的 推論。
對於較大的模型尺寸,請採用進階設定,搭配 RTX 6000 Pro GPU 與模型串流。
Google Kubernetes Engine (GKE)¶
Google Kubernetes Engine(GKE)是 Google Cloud 的託管 Kubernetes 服務。在 GKE 上執行 Gemma 4,實現企業級容器編排。 使用 TPU 與 GPU 以高吞吐量與低延遲服務模型。
Agent Development Kit (ADK)¶
使用 Agent Development Kit (ADK),以 Gemma 4 建構並編排 AI Agent。Gemma 4 強大的推理與函數呼叫能力使其 非常適合 Agent 工作流程。
Gemini Enterprise Agent Platform 訓練叢集¶
使用 Gemini Enterprise Agent Platform 訓練叢集 微調 Gemma 4。訓練叢集為 大規模訓練與開放模型微調提供最佳化的基礎設施。
TPU 上的 vLLM¶
在 Google Cloud TPU 上服務 Gemma 4,實現頂尖的服務 效能。
MaxText¶
Gemma 4 已支援於 MaxText——適用於 Google Cloud TPU 的高效能、任意規模 JAX LLM 實作。
Sovereign Cloud¶
Gemma 4 已在 Sovereign Cloud 解決方案上提供,為敏感工作負載提供增強的 控制與合規。