AnythingLLM

AnythingLLM 是一个集桌面端、自托管、workspace、文档对话（RAG）和 agents 于一体的 AI 应用。它的 Generic OpenAI provider 可以连接到 siflow endpoint，让算秩模型用于 chat 和 agent 工作流。支持的模型包括 glm-5.2 和 DeepSeek-V4-Flash。完整模型列表和价格请参考模型广场。

配置

AnythingLLM 可以通过 onboarding UI、settings 页面配置；自托管部署也可以通过 server/.env 配置。

1. 配置 Generic OpenAI provider

在 onboarding 过程中，或稍后进入 Settings → AI Providers → LLM，选择 Generic OpenAI 作为 LLM provider，并填写所需字段。

参数	示例
Base URL	`https://api.siflow.cn/model-api/v1`
API Key	您在 API 密钥页面创建的 API Key。
Selected Model	`glm-5.2`
Model context window	`131072`

配置 workspace chat mode 时请注意：

当 workspace chat mode 保持默认值，并且模型原生支持 tool calling 时，AnythingLLM 会进入 agent flow。
如需普通对话，请将 workspace chat mode 设置为 chat；如需 agent 和 tool use，可以保持默认。
如果依赖 agents 或 document-tool 功能，请选择原生支持 tool calling 的模型。glm-5.2 支持 tool calling。

AnythingLLM 中配置 Generic OpenAI provider 接入 siflow endpoint

2. 为自托管部署配置 `server/.env`

对于 self-hosted 部署，无论是 bare-metal 还是 Docker，都可以在 server/.env 中设置相同的值：

LLM_PROVIDER="generic-openai"
GENERIC_OPEN_AI_BASE_PATH="https://api.siflow.cn/model-api/v1"
GENERIC_OPEN_AI_MODEL_PREF="glm-5.2"
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=131072
GENERIC_OPEN_AI_API_KEY="<Your API Key>"

请使用包含 /v1 的 https://api.siflow.cn/model-api/v1。AnythingLLM 的 Generic OpenAI provider 会将该 base path 传给 OpenAI SDK，由 SDK 追加 /chat/completions。

验证

创建一个 workspace，确认顶部显示的模型是算秩模型，然后发送消息。如果正常回复，即表示连接成功。

开始使用

模型

用量

API 指南

工具集成

配置

1. 配置 Generic OpenAI provider

2. 为自托管部署配置 `server/.env`

验证

​配置

​1. 配置 Generic OpenAI provider

​2. 为自托管部署配置 server/.env

​验证

配置

1. 配置 Generic OpenAI provider

2. 为自托管部署配置 `server/.env`

验证