创建引擎配置
1. 进入创建页
- 进入 推理服务 > 大模型引擎配置。
- 选择 区域 和 集群。
- 单击 新建。
2. 填写引擎配置
在编辑器中填写引擎配置 JSON。配置中的字段共同决定创建服务时可选的引擎版本,以及不同执行方式下展示的角色和配置项。
引擎配置中的执行方式和角色规则应与对应镜像的启动方式保持一致。创建服务时,请以页面根据当前引擎版本实际展示的角色为准,不要仅根据执行方式名称固定推断角色。
Documentation Index
Fetch the complete documentation index at: /llms.txt
Use this file to discover all available pages before exploring further.
在人工智能平台中创建和管理大模型引擎配置,定义引擎版本、运行镜像及不同执行方式对应的角色规则。
| 字段 | 说明 |
|---|---|
engine | 引擎名称。 |
version | 引擎版本。 |
image | 引擎运行镜像。 |
routerImage | 路由角色使用的镜像。 |
executeTypeRoles | 定义不同执行方式对应的角色。创建服务时,页面会根据所选执行方式展示相应角色配置。 |
showRoleRules | 控制各角色需要展示的参数、命令、镜像、规格和副本数等配置。 |
| 操作 | 说明 |
|---|---|
| 编辑 | 修改引擎版本的镜像、执行方式或角色规则。 |
| 克隆 | 复制已有配置,在保留原配置的基础上创建新的引擎版本或配置变体。 |
| 删除 | 删除不再使用的引擎配置。 |
