Skip to main content
FastGPT 是一个开源知识库和 AI workflow 平台。它可以注册 OpenAI-compatible 模型,因此可通过 siflow endpoint 支持 chat/workflow apps 和 dataset(RAG)indexing。 请按照 官方指南 使用 Docker Compose 部署 FastGPT,然后使用初始 root 账号登录。 支持的 chat models 包括 glm-5.2DeepSeek-V4-Flash。本文中的 embedding model 为 Qwen/Qwen3-Embedding-8B。完整模型列表和价格请参考 模型广场

配置

API 密钥 页面创建 API Key,然后打开 Account → Model Providers(账号 → 模型提供商)。

1. 配置 chat model

添加或编辑一个模型。在 Model parameter editing 中设置: Custom url 是完整 endpoint。Chat 使用 https://api.siflow.cn/model-api/v1/chat/completions,embeddings 使用 .../v1/embeddings。设置 per-model Custom url 后,FastGPT 会原样调用该地址,不会追加路径。

2. 配置 embedding model

如果使用 datasets,请将 Qwen/Qwen3-Embedding-8B 添加为 Embedding 模型。它的 Custom url/v1/embeddings 结尾。 FastGPT 中配置模型参数接入 siflow endpoint
  • Model type 很重要。请将 glm-5.2 添加为 LLM,将 Qwen/Qwen3-Embedding-8B 添加为 embedding/index model。Datasets 需要 embedding model。
  • Model IDs 必须与算秩完全一致,包括 embedding model 的 Qwen/ 前缀。
  • 如果使用 workflow tool nodes 或 agents,请选择原生支持 tool calling 的 chat model。

验证

在 Studio 中创建一个简单 app,选择 glm-5.2,并在 Chat Preview 中发送消息。如果正常回复,即表示连接成功。 FastGPT 使用算秩模型进行对话
Assistant 可能会自称为 “a Work Agent” 等通用名称,而不是具体模型 ID。这是 FastGPT 的 system prompt,不是路由问题。