BentoCloud BYOC GCP 设置指南

为了确保顺利高效的入职流程，我们准备了这份设置指南，以帮助您的 DevOps 团队将 BentoCloud 集成到您的 GCP 账户中。

请求配额

为确保集群设置不会延迟，请在开始设置之前确认您的 GCP 账户中有足够的 Service 配额。如果不足，请在您将部署 BentoCloud 的项目和区域中申请增加配额。

如何请求配额

  1. 访问 GCP 配额页面。

  2. 根据您的部署计划，在正确的项目和区域请求配额。有关配额详情，请参阅下表

    类型

    配额名称

    所需数量

    用途

    CPU

    CPU

    32

    运行基础设施工作负载、镜像构建 Pod 和服务实例。

    GPU

    根据需求

    • T4: NVIDIA_T4_GPUS

    • L4: NVIDIA_L4_GPUS

    • A100 40GB: NVIDIA_A100_GPUS

    • A100 80GB: NVIDIA_A100_80GB_GPUS

    • H100 (仅限承诺使用): COMMITTED_NVIDIA_H100_GPUS

    根据需求

    运行需要 GPU 的工作负载。

设置

  1. 登录到 GCP 控制台，并为 BentoCloud创建一个单独的项目，以便高效地管理资源和权限。

  2. 前往这个新创建的项目。您可以在控制台顶部显示项目名称的位置进行确认。

  3. 访问API 库并启用 BentoCloud 正常运行所需的 API。您可以使用此链接进行快速设置。

    所需 API

    API

    描述

    http://artifactregistry.googleapis.com/

    Artifact Registry API

    http://autoscaling.googleapis.com/

    Cloud Autoscaling API

    http://bigquery.googleapis.com/

    BigQuery API

    http://bigquerymigration.googleapis.com/

    BigQuery Migration API

    http://bigquerystorage.googleapis.com/

    BigQuery Storage API

    http://cloudapis.googleapis.com/

    Google Cloud API

    http://cloudresourcemanager.googleapis.com/

    Cloud Resource Manager API

    http://cloudtrace.googleapis.com/

    Cloud Trace API

    http://compute.googleapis.com/

    Compute Engine API

    http://container.googleapis.com/

    Kubernetes Engine API

    http://containerfilesystem.googleapis.com/

    Container File System API

    http://containerregistry.googleapis.com/

    Container Registry API

    http://datastore.googleapis.com/

    Cloud Datastore API

    http://deploymentmanager.googleapis.com/

    Cloud Deployment Manager V2 API

    http://dns.googleapis.com/

    Cloud DNS API

    http://iam.googleapis.com/

    身份与访问管理 (IAM) API

    http://iamcredentials.googleapis.com/

    IAM Service Account Credentials API

    http://logging.googleapis.com/

    Cloud Logging API

    http://monitoring.googleapis.com/

    Cloud Monitoring API

    http://networkconnectivity.googleapis.com/

    Network Connectivity API

    http://oslogin.googleapis.com/

    Cloud OS Login API

    http://pubsub.googleapis.com/

    Cloud Pub/Sub API

    http://redis.googleapis.com/

    Google Cloud Memorystore for Redis API

    http://servicemanagement.googleapis.com/

    Service Management API

    http://serviceusage.googleapis.com/

    Service Usage API

    http://sql-component.googleapis.com/

    Cloud SQL

    http://storage-api.googleapis.com/

    Google Cloud Storage JSON API

    http://storage-component.googleapis.com/

    Cloud Storage

    http://storage.googleapis.com/

    Cloud Storage API

  4. 安装gcloud CLI 工具并通过在终端中运行 gcloud auth login 验证您的 GCP 账户。按照屏幕上的说明完成身份验证。

  5. 运行设置脚本，该脚本将在您的 GCP 项目中为 BentoCloud 设置必要的基础设施组件并创建密钥文件。

    1. 运行脚本之前，请将您的 GCP 项目 ID 设置为环境变量。您可以通过按照此处的说明检索您的项目 ID。

      export PROJECT=<project id>

    2. 运行 GCP 设置脚本

      bash <(curl https://l.bentoml.com/bentocloud_gcp_setup_script -sL)

设置后

设置脚本完成后，会生成一个名为 bentocloud-admin-$PROJECT.json 的服务账户密钥文件，其中 $PROJECT 是您的 GCP 项目 ID。请将生成的服务账户密钥和您希望创建集群的 GCP 区域（例如 us-central1）发送给 BentoML 团队。

重要提示

出于安全原因，通过安全通道传输此文件至关重要。请联系您的 BentoML 联系人以完成此步骤。

获取帮助和故障排除

如果在设置过程中遇到任何问题或有疑问，请联系我们。我们的支持团队可以协助您解决以下问题：

  • 每个步骤的详细说明

  • 解决常见问题，例如 API 激活错误、权限问题或脚本执行问题

  • 在 GCP 环境中管理 BentoCloud 的最佳实践

您可以通过 support@bentoml.com 或通过我们的支持 Slack 频道联系我们的支持团队。