跳转到主要内容
推理(Reasoning)模型面向更复杂的任务场景,例如数学解题、代码生成、逻辑分析和多步推理。它们提供兼容 OpenAI 的接口,并支持流式输出,便于接入现有应用。 代表性模型包括:
  • Qwen/Qwen3.6-27B
  • zai-org/glm-5.3
  • kimi-k2.6
完整模型列表和价格请以 模型广场 为准。

核心能力

  • 结构化思考:通过思维链(CoT)把复杂问题拆解成更小、更清晰的步骤。
  • 知识融合:将通用知识与领域特定上下文相结合,以提升覆盖面与准确性。
  • 自我纠错:在生成过程中加入校验和反思过程,提升结果可靠性。
  • 多模态处理:部分模型支持混合输入(文本、代码、公式等);具体请参见相应的模型详情。

使用说明

  • 在投入生产前,请查看每个模型的上下文限制、是否支持 thinking_budget、定价以及并发限制。
  • 部分模型会在单独的 reasoning 字段中返回推理内容;但并非所有模型都会返回 reasoning 字段。部分通用对话模型,例如 deepseek-ai/deepseek-v4-pro,会直接给出答案,而不会单独暴露推理过程。

关键参数

参数说明

  • 请求参数
    • thinking_budget:用于内部推理的 token 预算,可用来平衡推理深度与响应延迟。
    • max_completion_tokens:生成侧总预算,包含推理 Tokens 和可见输出 Tokens,用于控制本次请求的最大生成量。
  • 上下文 不同模型支持的最大上下文长度可通过 模型广场 查看。
  • 响应字段
    • reasoning:思维链内容,在响应对象中与 content 同级。
    • content:面向最终用户展示的最终答案内容。

使用建议

  • thinking_budget 是一个提示(hint),而不是硬性限制。有些模型会参考它来调整推理量,也有些模型可能只部分采用,甚至忽略这一设置,因此不要把它当作精确限额使用。
  • 推理过程和最终答案共享 max_completion_tokens 预算。如果 max_completion_tokens 设置过小,推理内容可能会耗尽预算,导致 content 为空,且 finish_reason: length。建议适当放宽 max_completion_tokens,或通过 thinking_budget 控制推理长度,为最终答案预留足够空间。
  • 如果输出超过 max_completion_tokens,或总输入超过 context_length,响应将被截断,且 finish_reason 将被设置为 length。

注意事项

  • 流式与非流式:需要长输出或实时反馈时使用流式;需要一次性拿到完整结果时使用非流式。
  • 延迟与稳定性:可通过调整 thinking_budget、max_completion_tokens 和客户端超时时间,降低 504 错误和请求超时的风险。
  • 配额与并发:结合定价,参考 模型广场 配置限流策略;必要时在客户端实现指数退避。

计费

  • 公式:费用 = 输入 Tokens × 输入单价 + 输出 Tokens × 输出单价 其中,输出 Tokens 包含推理 Tokens 和可见输出 Tokens。即使推理 Tokens 不作为可见内容返回,也会进入平台用量统计,并按对应模型的输出单价参与计费。 如果请求命中或写入 Prompt Caching,缓存读 / 缓存写会按对应模型的缓存单价计费。
  • 价格:各模型的输入和输出单价可能不同,具体价格请在 模型广场 的模型详情页查看。
  • 说明:关于推理 Tokens、输出 Tokens 和 max_completion_tokens 的关系,请参见 Token 用量与计费说明。

调用示例

示例使用环境变量读取 API Key,避免将密钥写入代码。

流式请求

非流式请求

常见问题

调整 max_completion_tokens 并启用 stream=True 以降低超时风险;上下文限制因模型而异,具体请以 模型广场 为准。
降低 thinking_budget 或增大客户端超时时间,并确保将 max_completion_tokens 设置为一个合理的值。
推理模型会在生成最终答案前消耗推理 Tokens。推理 Tokens 可能不作为可见内容返回,但会计入输出 Tokens,并按输出单价参与计费。更多说明请参见 Token 用量与计费说明。
只有部分推理模型会返回该字段;请参见各模型的文档。