跳转到主要内容
资源调度开发环境通用服务
更新资源调度、开发环境和通用服务能力

新功能

  • 资源管理与调度
    • 新增统一队列能力,训练任务、开发环境、推理服务和通用服务的资源申请统一进入队列,并按资源池、机型、优先级、用户轮转和提交时间进行调度。
  • 通用服务

功能优化

  • 优化开发环境事件上报内容,新增负载名称信息。
训练任务推理服务开发环境镜像治理
更新训练任务、推理服务、开发环境和镜像治理能力

新功能

  • 训练任务(PyTorchJob 类型)启用自动容错时,新增 故障自动换机 开关。详情请参见 创建训练任务。
  • 镜像治理列表新增 正在使用的工作负载 列。详情请参见 查看镜像使用统计。

功能优化

  • 优化推理服务事件展示,过滤 kubelet 探活事件。
  • 开发环境 SSH / Web 登录页新增临时存储写入风险提示。

问题修复

  • 修复推理服务 Batch Quota 校验异常问题。
资源大盘训练任务临时存储
更新资源大盘、训练任务和临时存储能力

新功能

功能优化

  • 优化训练任务调度失败后的退避处理,提升异常场景下的任务处理稳定性。
  • 优化 VS Code Server 开启 SSH 功能后的端口回收逻辑,停止时自动回收端口资源。
  • 优化通用服务接口响应速度。
  • 优化默认卷创建失败后的告警与重试处理。

问题修复

  • 优化独占资源池节点列表调度状态展示逻辑,修复个人范围内临时加黑节点时,其他用户看到节点被停止调度的问题。
  • 修复训练任务 Pod 状态更新偶发失败的问题。
  • 修复训练任务事件写入顺序导致停止事件无用户名的问题。
  • 修复开发环境事件队列处理异常导致服务副本周期性重启的问题。
资源管理推理服务任务大盘调度策略
更新资源管理与调度、推理服务和任务大盘能力

新功能

  • 资源管理与调度
    • 独占资源池支持按 资源池调度策略,可选择 BinPack 或 Spread,控制任务集中调度到少量节点或分散调度到不同节点;默认策略为 BinPack。请参见 新建资源池。
    • 资源池授权用户支持批量导入和导出,可使用英文逗号或换行符分隔的字符串批量设置用户 Quota。请参见 管理授权用户和个人配额。
    • 资源池详情页面新增 全量工作负载 页签,支持按负载类型查看提交至当前资源池的所有历史负载记录。请参见 查看资源池详情。
    • 资源大盘 中,用户资源详情页面新增 闲时任务排队时长 和 闲时任务运行时长 的 P50、P90、P95 图表。
    • 新增节点调度策略设置页面,支持按生效范围、节点名称、创建人和原因等条件筛选。请参见 管理调度策略。
    • 任务大盘 支持查看历史开发环境记录、历史推理服务记录和历史通用服务记录。
  • 推理服务
    • 大模型推理服务支持配置优先级和是否允许抢占。请参见 高级配置。
资源管理训练任务推理服务SDK
更新资源管理与调度、训练任务、推理服务和 SDK 能力

新功能

  • 资源管理与调度
    • 任务大盘 支持展示实例规格、GPU 卡型和实际资源用量,并支持按 GPU 卡数或 CPU 核数排序。
    • 资源大盘 新增资源池 GPU 性能指标看板:
      • 展示 SM 利用率、Tensor 利用率、显存使用率、NVLink 收发速率及历史趋势。
      • 支持多个资源池的指标对比,并支持按实例规格、节点筛选查看。
    • 资源大盘 新增用户详情页:
      • 支持从用户用量排行进入详情,按近 1 天、7 天、14 天和资源池范围查看用户资源使用情况。
      • 支持按资源池查看平均在用 GPU 卡数的历史趋势,并分别展示保障资源、闲时资源的 SM 利用率趋势。
      • 展示用户的任务规模、任务类型及资源池用量分布时,支持切换查看“资源池 × 任务类型”和“GPU 卡型 × 任务类型”的卡时分布。
      • 展示用户历史任务的名称、类型、状态、GPU 卡数、卡型、资源池、SM 利用率、使用卡时、等待与运行时长,以及提交、开始和结束时间。
    • 资源大盘 新增节点磁盘用量及告警:
      • 支持查看独占池节点磁盘用量、容量、可写量、Top Pod 使用量,以及近 24 小时内因节点磁盘达到预警或 Pod 自身达到预警被驱逐的数量和明细。
      • 当用户 Pod 使用临时存储达到 80% 或 90% 阈值时,平台会向用户发送告警信息。
  • 推理服务
  • SDK
    • 通用服务 SDK 支持配置优雅终止时长 extraTerminationGraceSeconds。
    • 通用服务创建和列表接口支持项目组,并支持设置项目组公开。

功能优化

  • 优化资源大盘闲时任务监控口径,对齐首次被抢占前运行时长卡片与 gauge 口径。
  • 优化训练任务模糊查询性能,整体查询耗时从约 3 秒降低至约 1 秒。