新功能
- 资源管理与调度
- 新增统一队列能力,训练任务、开发环境、推理服务和通用服务的资源申请统一进入队列,并按资源池、机型、优先级、用户轮转和提交时间进行调度。
- 通用服务
- 新增访问入口控制开关,支持关闭控制台域名访问,仅通过集群共享网关访问。详情请参见 开启或关闭控制台域名访问。
功能优化
- 优化开发环境事件上报内容,新增负载名称信息。
新功能
- 资源大盘
- 资源大盘新增 GPU 节点故障 页,支持租户管理员按集群、机型和资源池筛选,查看实时故障节点状态和历史故障数据。
- 训练任务
- 新增算力检测 precheck 独立开关,支持按训练任务单独配置 precheck 脚本环境变量。详情请参见 训练任务高级配置。
- 新增 训练任务环境变量校验规则。
- 支持多端口采集 自定义监控指标,并将 训练任务监控 适配为 HTML 页面,替换原 Grafana 大盘。
- 临时存储
- 开发环境、训练任务、大模型推理服务和通用服务支持查看 Pod 临时存储使用情况。详情请参见 临时存储使用最佳实践。
功能优化
- 优化训练任务调度失败后的退避处理,提升异常场景下的任务处理稳定性。
- 优化 VS Code Server 开启 SSH 功能后的端口回收逻辑,停止时自动回收端口资源。
- 优化通用服务接口响应速度。
- 优化默认卷创建失败后的告警与重试处理。
问题修复
- 优化独占资源池节点列表调度状态展示逻辑,修复个人范围内临时加黑节点时,其他用户看到节点被停止调度的问题。
- 修复训练任务 Pod 状态更新偶发失败的问题。
- 修复训练任务事件写入顺序导致停止事件无用户名的问题。
- 修复开发环境事件队列处理异常导致服务副本周期性重启的问题。
新功能
- 资源管理与调度
- 独占资源池支持按 资源池调度策略,可选择 BinPack 或 Spread,控制任务集中调度到少量节点或分散调度到不同节点;默认策略为 BinPack。请参见 新建资源池。
- 资源池授权用户支持批量导入和导出,可使用英文逗号或换行符分隔的字符串批量设置用户 Quota。请参见 管理授权用户和个人配额。
- 资源池详情页面新增 全量工作负载 页签,支持按负载类型查看提交至当前资源池的所有历史负载记录。请参见 查看资源池详情。
- 资源大盘 中,用户资源详情页面新增 闲时任务排队时长 和 闲时任务运行时长 的 P50、P90、P95 图表。
- 新增节点调度策略设置页面,支持按生效范围、节点名称、创建人和原因等条件筛选。请参见 管理调度策略。
- 任务大盘 支持查看历史开发环境记录、历史推理服务记录和历史通用服务记录。
- 推理服务
- 大模型推理服务支持配置优先级和是否允许抢占。请参见 高级配置。
新功能
-
资源管理与调度
- 任务大盘 支持展示实例规格、GPU 卡型和实际资源用量,并支持按 GPU 卡数或 CPU 核数排序。
- 资源大盘 新增资源池 GPU 性能指标看板:
- 展示 SM 利用率、Tensor 利用率、显存使用率、NVLink 收发速率及历史趋势。
- 支持多个资源池的指标对比,并支持按实例规格、节点筛选查看。
- 资源大盘 新增用户详情页:
- 支持从用户用量排行进入详情,按近 1 天、7 天、14 天和资源池范围查看用户资源使用情况。
- 支持按资源池查看平均在用 GPU 卡数的历史趋势,并分别展示保障资源、闲时资源的 SM 利用率趋势。
- 展示用户的任务规模、任务类型及资源池用量分布时,支持切换查看“资源池 × 任务类型”和“GPU 卡型 × 任务类型”的卡时分布。
- 展示用户历史任务的名称、类型、状态、GPU 卡数、卡型、资源池、SM 利用率、使用卡时、等待与运行时长,以及提交、开始和结束时间。
- 资源大盘 新增节点磁盘用量及告警:
- 支持查看独占池节点磁盘用量、容量、可写量、Top Pod 使用量,以及近 24 小时内因节点磁盘达到预警或 Pod 自身达到预警被驱逐的数量和明细。
- 当用户 Pod 使用临时存储达到 80% 或 90% 阈值时,平台会向用户发送告警信息。
- 推理服务
-
SDK
- 通用服务 SDK 支持配置优雅终止时长
extraTerminationGraceSeconds。 - 通用服务创建和列表接口支持项目组,并支持设置项目组公开。
- 通用服务 SDK 支持配置优雅终止时长
功能优化
- 优化资源大盘闲时任务监控口径,对齐首次被抢占前运行时长卡片与 gauge 口径。
- 优化训练任务模糊查询性能,整体查询耗时从约 3 秒降低至约 1 秒。
