DB-GPT - 算秩

DB-GPT 是一个开源的 AI-native 数据应用框架，适用于 chat-to-data、agents、RAG 等场景。它的 proxy/openai model provider 面向任意 OpenAI-compatible endpoint，因此可以接入 siflow endpoint。本文默认模型为 glm-5.2；完整模型列表和价格请查看模型广场。请按照官方指南部署 DB-GPT。轻量级 dbgpt-openai 镜像是 proxy-only build，不需要本地 GPU 模型，适合作为接入 siflow endpoint 的基础镜像。

配置

DB-GPT 的模型在服务端 TOML 配置中定义，而不是在 UI 中配置。请使用 proxy/openai provider 和内置的 configs/dbgpt-proxy-openai.toml 配置。这是接入这类 OpenAI-compatible endpoint 的路径，proxy-only dbgpt-openai build 不需要本地 GPU 模型。该配置已经从环境变量读取所有值，因此只需设置以下变量即可接入 siflow endpoint。启动服务时使用 --config configs/dbgpt-proxy-openai.toml。

# configs/dbgpt-proxy-openai.toml (excerpt — values come from env)
[[models.llms]]
name = "${env:LLM_MODEL_NAME:-gpt-4o}"
provider = "${env:LLM_MODEL_PROVIDER:-proxy/openai}"
api_base = "${env:OPENAI_API_BASE:-https://api.openai.com/v1}"
api_key = "${env:OPENAI_API_KEY}"

[[models.embeddings]]
name = "${env:EMBEDDING_MODEL_NAME:-text-embedding-3-small}"
provider = "${env:EMBEDDING_MODEL_PROVIDER:-proxy/openai}"
api_url = "${env:EMBEDDING_MODEL_API_URL:-https://api.openai.com/v1/embeddings}"
api_key = "${env:OPENAI_API_KEY}"

在 API 密钥页面创建 API Key，然后设置：

LLM_MODEL_NAME=glm-5.2
LLM_MODEL_PROVIDER=proxy/openai
OPENAI_API_BASE=https://api.siflow.cn/model-api/v1
OPENAI_API_KEY=<Your API Key>

# Embeddings (RAG / Knowledge Base) — point at a siflow embedding model
EMBEDDING_MODEL_NAME=Qwen/Qwen3-Embedding-8B
EMBEDDING_MODEL_PROVIDER=proxy/openai
EMBEDDING_MODEL_API_URL=https://api.siflow.cn/model-api/v1/embeddings

字段	值
`LLM_MODEL_NAME`	模型 ID，例如 `glm-5.2`。DB-GPT agents 和 data tools 需要选择原生支持 tool calling 的模型
`LLM_MODEL_PROVIDER`	`proxy/openai`
`OPENAI_API_BASE`	siflow OpenAI-compatible endpoint：`https://api.siflow.cn/model-api/v1`
`OPENAI_API_KEY`	创建的 API Key
`EMBEDDING_MODEL_API_URL`	siflow embeddings endpoint：`https://api.siflow.cn/model-api/v1/embeddings`

验证

启动 Web 服务并打开 UI（默认 http://localhost:5670）。在 chat 中，model selector 显示 glm-5.2；发送一条消息，如果返回正常回复，即表示连接成功。

DB-GPT 使用算秩 glm-5.2 模型进行对话

回复可能会以 “DB-GPT assistant” 身份返回。这是 DB-GPT 自身的 agent 身份设定，不是路由问题；消息下方的 Model: glm-5.2 标签可以确认正在使用的模型。