LlamaIndex - 算秩

LlamaIndex 是常用的 RAG 和 agents 数据框架。它的 OpenAILike LLM 类面向任意 OpenAI-compatible endpoint，因此可以接入 siflow endpoint。本文默认模型为 glm-5.2；完整模型列表和价格请查看模型广场。本文仅说明如何将算秩配置为 LlamaIndex 的 LLM。构建需要向量检索的 RAG 应用时，还需要按照 LlamaIndex 官方文档另行配置 Embedding 模型。

配置

在 API 密钥页面创建 API Key，并将其导出为环境变量：

export SIFLOW_API_KEY="<Your API Key>"

安装 llama-index-llms-openai-like，然后创建一个 OpenAILike LLM：

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="glm-5.2",
    api_base="https://api.siflow.cn/model-api/v1",
    api_key=os.environ["SIFLOW_API_KEY"],
    is_chat_model=True,
)

字段	说明
`model`	模型 ID，例如 `glm-5.2`
`api_base`	siflow OpenAI-compatible endpoint：`https://api.siflow.cn/model-api/v1`
`api_key`	从环境变量读取的 API Key
`is_chat_model`	设置为 `True`，让 LlamaIndex 使用 chat-completions API

请使用 OpenAILike，不要使用 OpenAI。普通 OpenAI 类会根据 OpenAI 自有模型列表校验 model ID，并拒绝模型 ID。

验证

调用模型。如果返回正常回复，即表示连接成功：

print(llm.complete("In one short sentence, which model are you?"))
# → I am GLM, a large language model developed by Z.ai.