功能架构
人工智能平台以容器化 GPU 集群为底座,按用户使用路径组织工作负载、资产、资源和运维能力。
平台负责资源调度、环境拉起、状态记录和运行监控;代码、数据、模型适配以及业务结果验证仍由使用方完成。例如,平台可以重新拉起训练任务,但训练程序需要自行保存并加载 checkpoint,才能恢复已完成的训练进度。
核心功能
资源与资产准备
- 所用资源:管理实例资源、存储资源、资源池、配额、订单和资源使用统计。
- 镜像管理:维护开发、训练和推理使用的容器镜像,统一框架版本、系统依赖、Python 包和服务启动环境。
- 数据集:提供可在开发环境或训练任务中选择并挂载读取的数据。
开发与训练
- 开发环境:提供 JupyterLab 和 VSCS,用于代码编写、数据探索、依赖验证和小规模调试。
- 训练任务:提交和管理 PyTorchJob、RayJob 等训练作业,查看状态、事件、日志、监控,并配置调度和容错能力。
模型与推理
- 模型管理:登记内置模型和自定义模型,管理模型版本、来源和引用信息。
- 推理服务:将模型或自定义容器应用发布为在线服务,支持大模型推理服务和通用服务。
运维与治理
- 告警:订阅平台事件和指标变化,并通过通知渠道发送。
- 配置管理:管理项目组、标签、任务环境变量和监控看板等租户级配置。
开发者接入
- 开发者接入:通过 Python SDK 或 MCP 接入平台能力,用于脚本化、自动化或 AI 工具场景。
相关文档
- 核心概念与对象关系:了解协作范围、资源、资产与工作负载之间的关系。
- 快速上手人工智能平台:按训练、模型部署或自定义应用场景选择上手路径。
