GPU 云服务

GPU 云服务（GPU Cloud）提供计算、存储、网络和可观测能力，帮助您在云端运行训练、推理、开发调试、数据处理和批处理任务。 本文帮助您了解 GPU 云服务的核心模块，以及开始使用时需要先阅读哪些文档。

​

核心模块

​

计算

计算模块提供运行任务所需的算力资源。您可以根据任务形态选择 CES 实例或 CKS 集群：

• CES 实例：提供 GPU 实例和 CPU 实例，适合需要直接登录服务器、运行单机任务、进行开发调试或搭建自定义环境的场景。
• CKS 集群：提供面向容器化工作负载的 Kubernetes 集群，适合运行训练任务、推理服务、批处理任务或团队共享的容器化环境。

​

存储

存储模块用于保存输入数据、输出结果和容器镜像等制品。您可以根据数据访问方式选择不同的存储能力：

• GPFS 文件系统：适合多个 CES 实例或 CKS 集群节点通过文件系统共享数据。
• OSS 对象存储：适合通过对象语义保存、访问和归档数据。
• 镜像仓库：用于保存和管理容器镜像等制品，支撑 CKS 集群中的容器化工作负载交付。

​

网络

云网络模块用于准备资源访问所需的网络能力。您可以按需创建和配置以下对象：

• 专有网络：用于准备资源的网络环境。
• 弹性 IP：用于创建公网访问地址。
• NAT 网关：用于配置公网访问映射。

​

可观测

可观测模块用于查看资源状态、定位运行问题，并在异常发生或恢复时发送通知：

• 监控：用于查看资源状态和关键指标。
• 日志：用于查询任务输出、应用报错或调试信息。
• 告警：用于订阅预设告警规则、创建自定义告警规则和配置通知渠道。

​

选择算力资源

开始使用 GPU 云服务前，您需要先判断任务更适合直接运行在 CES 实例上，还是运行在 CKS 集群中。 总的来说：

• CES 实例适合直接使用服务器资源。 您可以登录 CES 实例，管理操作系统和运行环境，并运行训练、推理、开发调试、数据处理或轻量服务。 CES 实例分为 GPU 实例和 CPU 实例：
  • GPU 实例适合深度学习训练、模型微调、推理服务和 GPU 加速计算。
  • CPU 实例适合数据预处理、开发调试、调度服务和轻量服务。
• CKS 集群适合承载容器化业务。 您可以把训练任务、推理服务、数据处理任务或业务应用封装为镜像，在集群中按工作负载运行，并统一管理节点、命名空间、存储、配置、监控、日志和告警。

​

开始使用

如果您还不确定应该使用 CES 实例还是 CKS 集群，请先根据本文的 选择算力资源 判断任务运行方式。 如果您已经确定算力资源，可以继续阅读对应文档：

• 使用 CES 实例
• 使用 CKS 集群