Qwen/Qwen3.6-27Bzai-org/glm-5.3kimi-k2.6
核心能力
- 结构化思考:通过思维链(CoT)把复杂问题拆解成更小、更清晰的步骤。
- 知识融合:将通用知识与领域特定上下文相结合,以提升覆盖面与准确性。
- 自我纠错:在生成过程中加入校验和反思过程,提升结果可靠性。
- 多模态处理:部分模型支持混合输入(文本、代码、公式等);具体请参见相应的模型详情。
使用说明
- 在投入生产前,请查看每个模型的上下文限制、是否支持
thinking_budget、定价以及并发限制。 - 部分模型会在单独的
reasoning字段中返回推理内容;但并非所有模型都会返回reasoning字段。部分通用对话模型,例如deepseek-ai/deepseek-v4-pro,会直接给出答案,而不会单独暴露推理过程。
关键参数
参数说明
-
请求参数
thinking_budget:用于内部推理的 token 预算,可用来平衡推理深度与响应延迟。max_completion_tokens:生成侧总预算,包含推理 Tokens 和可见输出 Tokens,用于控制本次请求的最大生成量。
- 上下文 不同模型支持的最大上下文长度可通过 模型广场 查看。
-
响应字段
reasoning:思维链内容,在响应对象中与content同级。content:面向最终用户展示的最终答案内容。
使用建议
thinking_budget是一个提示(hint),而不是硬性限制。有些模型会参考它来调整推理量,也有些模型可能只部分采用,甚至忽略这一设置,因此不要把它当作精确限额使用。- 推理过程和最终答案共享
max_completion_tokens预算。如果max_completion_tokens设置过小,推理内容可能会耗尽预算,导致content为空,且finish_reason: length。建议适当放宽max_completion_tokens,或通过thinking_budget控制推理长度,为最终答案预留足够空间。 - 如果输出超过
max_completion_tokens,或总输入超过context_length,响应将被截断,且finish_reason将被设置为length。
注意事项
- 流式与非流式:需要长输出或实时反馈时使用流式;需要一次性拿到完整结果时使用非流式。
- 延迟与稳定性:可通过调整
thinking_budget、max_completion_tokens和客户端超时时间,降低 504 错误和请求超时的风险。 - 配额与并发:结合定价,参考 模型广场 配置限流策略;必要时在客户端实现指数退避。
计费
- 公式:费用 = 输入 Tokens × 输入单价 + 输出 Tokens × 输出单价 其中,输出 Tokens 包含推理 Tokens 和可见输出 Tokens。即使推理 Tokens 不作为可见内容返回,也会进入平台用量统计,并按对应模型的输出单价参与计费。 如果请求命中或写入 Prompt Caching,缓存读 / 缓存写会按对应模型的缓存单价计费。
- 价格:各模型的输入和输出单价可能不同,具体价格请在 模型广场 的模型详情页查看。
-
说明:关于推理 Tokens、输出 Tokens 和
max_completion_tokens的关系,请参见 Token 用量与计费说明。
调用示例
示例使用环境变量读取 API Key,避免将密钥写入代码。流式请求
非流式请求
常见问题
如何处理超长文本?
如何处理超长文本?
调整
max_completion_tokens 并启用 stream=True 以降低超时风险;上下文限制因模型而异,具体请以 模型广场 为准。如果思维链过长而被截断怎么办?
如果思维链过长而被截断怎么办?
降低
thinking_budget 或增大客户端超时时间,并确保将 max_completion_tokens 设置为一个合理的值。为什么可见回答很短,但 token 消耗很多?
为什么可见回答很短,但 token 消耗很多?
推理模型会在生成最终答案前消耗推理 Tokens。推理 Tokens 可能不作为可见内容返回,但会计入输出 Tokens,并按输出单价参与计费。更多说明请参见 Token 用量与计费说明。
为什么响应中没有 reasoning 字段?
为什么响应中没有 reasoning 字段?
只有部分推理模型会返回该字段;请参见各模型的文档。
