自带云

BentoCloud 企业版计划的“自带云”（BYOC）选项结合了自托管和全托管服务的优点。这意味着它不仅能确保您和您的组织的数据隐私和安全，还能帮助您减轻运营和维护负担。

BentoCloud 的 BYOC 提供了一个功能齐全的 AI 推理平台，可以部署到任何组织的私有云环境中，以实现最大程度的控制和自定义。

架构

BYOC 让您完全拥有自己的数据基础设施和网络，同时由我们为您管理。您可以选择在 AWS、Google Cloud、Microsoft Azure 或 Oracle Cloud Infrastructure 等提供商的任何云账户中托管您的服务。以下架构图演示了 BYOC 的设置：

Architecture diagram of BentoCloud's Bring Your Own Cloud (BYOC) setup showing how services are deployed in the customer's VPC while being managed by BentoCloud

在 BYOC 模型中，Bento 算子 (operators) 和部署 (Deployments) 部署在您的虚拟私有云 (VPC) 中，确保所有数据都安全地存储在您自己的环境中。为了在您的账户中创建算子所需的云资源，BentoCloud 需要相关权限来执行基础设施即代码自动化。此过程自动化创建以下资源，例如：

  • Kubernetes 集群（例如，AWS EKS 和 Google Cloud GKE）

  • 对象存储（例如，AWS S3 和 Google Cloud Storage）

  • 键值存储（例如，InMemory Database 和 Memory Store）

BYOC 设置完成后，开发人员可以通过 BentoCloud 控制台或 BentoML CLI 部署 Bentos。BentoCloud 控制平面（部署在您的私有环境之外）与您的 Kubernetes 集群中的远程算子进行交互，确保根据定义的配置进行准确的实时状态同步和更新。

为何选择 BYOC？

BYOC 让您对数据基础设施拥有更大的自主权，满足在隐私、灵活性和成本效益方面的关键需求。

数据隐私

在 AI 时代，数据隐私变得越来越重要。大型语言模型 (LLMs) 等生成式 AI 通常处理大量可能包含敏感信息的数据。BYOC 确保您的数据和模型保留在您的 VPC 内，并且您仍然可以使用最新的基础模型和 AI 推理技术来使用它们。

成本效益

BYOC 在与您的数据相同的环境中实例化计算资源，有效最大程度地减少因数据传出您的云账户而可能产生的巨额出口费用。对于定期处理大量数据的企业来说，在您的云环境中执行模型推理可以带来可观的成本节省。

积分和折扣

如果您参与了初创公司或孵化器项目，您很可能符合领先云服务提供商的云积分和折扣资格。为了最大化这些积分和折扣的益处，您必须构建一个与所有这些提供商集成的基础设施。BentoCloud 的 BYOC 在您的权限下自动生成云资源，并为不同的提供商安装算子。这为您提供了一个一致的界面来管理所有云平台上的部署，并且您可以利用其上任何可用的积分或折扣。

GPU 可用性

对于 AI 应用，GPU 既是必需品，也是稀缺资源。通过 BentoCloud 的 BYOC，您可以选择提供最丰富、最优 GPU 资源的云提供商，同时还可以考虑价格或折扣因素以获得更好的成本效益。

无供应商锁定

BentoCloud 的架构基于标准云组件构建，确保其与所有通用云提供商兼容。这种设计确保您的基础设施独立于任何特定的云供应商，让您可以自由地根据需求演变调整、切换或扩展您的云策略。

入门

作为企业版计划的一部分，BentoCloud BYOC 部署选项适用于新客户和现有客户。您可以选择将其部署在 AWS、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure 和其他云平台上。如果您对此计划感兴趣，请访问BentoML 网站或联系我们。