BentoCloud BYOC Azure 设置指南

本文档提供了配置必要的 Azure 服务主体和角色以在您的 Azure 账户中部署 BentoCloud 的分步说明。按照这些步骤,您将为 BentoML 的 Azure 账户中的服务主体分配所需的角色。此服务主体将用于创建和管理在您的 Azure 账户上运行 BentoCloud 所需的 Azure 资源。

请求配额

为确保您的集群设置不延迟,请在开始设置之前,确认您的 Azure 账户中有足够的可用服务配额。如果没有,请在您将部署 BentoCloud 的订阅和区域中申请增加配额。

如何请求配额

  1. 登录 Azure 门户 并在搜索框中输入 配额,然后选择 配额。在 概览 页面,选择 计算

  2. 按照您的部署计划,在正确的订阅和区域中请求配额。详细配额信息请参见下表:

    类型

    配额名称

    所需数量

    用途

    CPU

    总区域 vCPUStandard DSv3 系列 vCPU

    32

    运行基础设施工作负载、镜像构建器 Pod 和服务实例。

    GPU

    根据需要

    • T4: Standard NCASv3_T4 系列 vCPU

    • A100: Standard NCADS_A100_v4 系列 vCPU

    根据需要

    运行需要 GPU 的工作负载。

设置

  1. 登录 Azure 门户

  2. 安装 Azure CLI 并运行 az login 登录您的 Azure 账户。

  3. 如果您有多个订阅,请运行以下命令设置所需的订阅

    az account set --subscription <Subscription Name or ID>
    
  4. 运行 setup 脚本,该脚本将配置必要的 Azure 资源,例如虚拟机、网络以及运行 BentoCloud 所需的其他服务。您将被提示指定 BentoCloud 的设置区域。

    bash <(curl https://l.bentoml.com/bentocloud_azure_setup_script -sL)
    

    注意

    脚本使用 jq 解析 Azure CLI 命令的 JSON 输出。请确保您的系统已安装 jq

    脚本中设置的权限允许创建和管理所有必需的资源,包括 Azure Kubernetes Service、Blob Storage 和 Redis Cache,用于在 Azure 上设置和维护 BentoCloud 集群。授权范围严格限制在资源组 bentocloud-<region> 内,不授予对任何其他资源的权限。

  5. 通过安全通道与 BentoML 团队共享由脚本创建的 bcAdminSP.json 文件。

获取帮助和故障排除

如果您在设置过程中遇到任何问题或有疑问,请联系我们。我们的支持团队可以协助您进行以下事项:

  • 每一步的详细操作指导

  • 常见问题故障排除,如 API 激活错误、权限问题或脚本执行问题

  • 在您的 Azure 环境中管理 BentoCloud 的最佳实践

您可以通过 support@bentoml.com 或通过我们的支持 Slack 频道联系我们的支持团队。