> ## Documentation Index
> Fetch the complete documentation index at: https://docs.siflow.cn/llms.txt
> Use this file to discover all available pages before exploring further.

# 管理大模型引擎配置

> 在人工智能平台中创建和管理大模型引擎配置，定义引擎版本、运行镜像及不同执行方式对应的角色规则。

大模型引擎配置用于注册可供服务和模板选择的推理引擎版本，并定义运行镜像、执行方式和角色展示规则。已有引擎配置满足部署需求时，可以直接在创建服务或模板时选择；需要新增引擎版本、调整运行镜像或维护角色规则时，再创建或编辑引擎配置。

引擎配置维护可复用的引擎定义。创建服务时，仍需为本次服务选择引擎版本，并配置引擎参数、执行方式和角色资源。

## 创建引擎配置

### 1. 进入创建页

1. 进入 **推理服务 > 大模型引擎配置**。
2. 选择 **区域** 和 **集群**。
3. 单击 **新建**。

### 2. 填写引擎配置

在编辑器中填写引擎配置 JSON。配置中的字段共同决定创建服务时可选的引擎版本，以及不同执行方式下展示的角色和配置项。

| 字段 | 说明 |
| - | - |
| `engine` | 引擎名称。 |
| `version` | 引擎版本。 |
| `image` | 引擎运行镜像。 |
| `routerImage` | 路由角色使用的镜像。 |
| `executeTypeRoles` | 定义不同执行方式对应的角色。创建服务时，页面会根据所选执行方式展示相应角色配置。 |
| `showRoleRules` | 控制各角色需要展示的参数、命令、镜像、规格和副本数等配置。 |

引擎配置中的执行方式和角色规则应与对应镜像的启动方式保持一致。创建服务时，请以页面根据当前引擎版本实际展示的角色为准，不要仅根据执行方式名称固定推断角色。

### 3. 提交创建

单击 **提交**。创建完成后，该引擎版本可供大模型推理服务和推理模板选择。

## 管理引擎配置

进入 **推理服务 > 大模型引擎配置**，找到目标配置后执行相应操作。

| 操作 | 说明 |
| - | - |
| **编辑** | 修改引擎版本的镜像、执行方式或角色规则。 |
| **克隆** | 复制已有配置，在保留原配置的基础上创建新的引擎版本或配置变体。 |
| **删除** | 删除不再使用的引擎配置。 |

## 后续操作

* [管理大模型推理模板](./manage-llm-inference-templates)
* [创建大模型推理服务](./create-llm-inference-services)