跳转到主要内容
人工智能平台(AI Platform)是一套基于 GPU 集群的一站式 AI 训练与推理平台,面向需要大规模算力的算法研发与模型工程团队。 平台围绕一次 AI 研发的完整链路提供能力:按需获取算力、准备数据与运行环境、交互式开发、提交分布式训练、管理模型,并将模型发布为在线推理服务。您也可以直接部署已有模型或自定义容器应用,不必从训练环节开始。

功能架构

人工智能平台以容器化 GPU 集群为底座,按用户使用路径组织工作负载、资产、资源和运维能力。 人工智能平台产品架构 平台负责资源调度、环境拉起、状态记录和运行监控;代码、数据、模型适配以及业务结果验证仍由使用方完成。例如,平台可以重新拉起训练任务,但训练程序需要自行保存并加载 checkpoint,才能恢复已完成的训练进度。

核心功能

资源与资产准备

  • 所用资源:管理实例资源、存储资源、资源池、配额、订单和资源使用统计。
  • 镜像管理:维护开发、训练和推理使用的容器镜像,统一框架版本、系统依赖、Python 包和服务启动环境。
  • 数据集:提供可在开发环境或训练任务中选择并挂载读取的数据。

开发与训练

  • 开发环境:提供 JupyterLab 和 VSCS,用于代码编写、数据探索、依赖验证和小规模调试。
  • 训练任务:提交和管理 PyTorchJob、RayJob 等训练作业,查看状态、事件、日志、监控,并配置调度和容错能力。

模型与推理

  • 模型管理:登记内置模型和自定义模型,管理模型版本、来源和引用信息。
  • 推理服务:将模型或自定义容器应用发布为在线服务,支持大模型推理服务和通用服务。

运维与治理

  • 告警:订阅平台事件和指标变化,并通过通知渠道发送。
  • 配置管理:管理项目组、标签、任务环境变量和监控看板等租户级配置。

开发者接入

  • 开发者接入:通过 Python SDK 或 MCP 接入平台能力,用于脚本化、自动化或 AI 工具场景。

相关文档