围绕DeepSeek API的模型选择、采样控制、结构化输出与上线评估，结合AI指导老师场景给出可落地的参数配置方法与验证思路。
在AI指导老师产品里，同一套提示词在不同参数下会呈现完全不同的教学效果。参数不是技术附属项，而是教学策略的数字化表达。很多团队把精力集中在提示词打磨上，却忽略temperature、max_tokens、stop、response_format等配置对讲解稳定性、响应速度和调用成本的影响。DeepSeek API兼容OpenAI接口，迁移成本较低，但模型能力和参数边界存在差异，直接照搬旧配置容易踩坑。下面从模型路由、采样控制、结构化输出和上线验证四个层面展开，给出面向教学场景的可操作配置方法。
1. 模型路由与调用入口
DeepSeek API提供deepseek-chat和deepseek-reasoner两类模型，前者适合常规对话、知识讲解和文案生成，后者在数学、编程和复杂推理任务上更强，但延迟和成本更高。AI指导老师系统不应全量使用推理模型，而应按任务做路由：知识点问答、口语陪练、学习计划模板走chat；压轴题解析、代码调试、复杂学情诊断走reasoner。调用入口统一使用base_url ，通过OpenAI SDK改base_url和api_key即可接入。模型名要写入配置中心，不要硬编码在业务代码里，便于后续灰度切换。
路由策略需要可观测。每次请求记录model、task_type、prompt_version、latency和token用量。经验上，常规答疑占请求量的大头，把其中大部分留在chat，复杂任务按置信度或用户主动触发升级到reasoner，可以在体验和成本之间取得平衡。推理模型会返回单独的推理内容字段，生产环境要决定是否展示，面向学员的讲解只输出最终结论和步骤，避免把内部推理直接暴露。路由规则还要考虑学科差异，理科复杂题优先升级，语言类练习则保持低延迟。
调用入口还要设置timeout、stream和重试。流式输出能降低首字等待，适合讲解类交互；结构化批改可以非流式。超时建议按任务分档，常规问答短超时，复杂推理长超时。遇到429或5xx采用指数退避重试，并设置最大重试次数，避免雪崩。重试要保证幂等，尤其是已经计费或写入学习记录的请求。对于AI指导老师场景，首token延迟直接影响学员等待感，流式配合分段生成往往比一次性长输出更稳。
2. 采样参数与讲解稳定性
temperature控制随机性，top_p控制候选词累积概率。教学讲解需要稳定，temperature建议0.2到0.5；开放讨论、作文启发可以0.7到0.9。不要同时大幅调整temperature和top_p，否则输出波动难以归因。AI指导老师面对同一道错题，低温度能让解题步骤和术语保持一致，便于教研审核。高温度适合生成多种思路，但需要后置校验，不能直接推给学员。
presence_penalty和frequency_penalty用于抑制重复。教学场景中术语和公式天然重复，惩罚值不宜高，否则会把必要表达压掉。一般从0起步，观察到重复啰嗦再小幅增加。stop参数用于截断输出，比如在固定模板中设置停止序列，避免模型继续生成无关内容。stop要选不会出现在正常讲解里的字符串，否则会提前截断。采样参数不是孤立存在的，它要和system prompt里的教学步骤约束一起看。
采样参数要跟提示词一起版本化。以错题讲解为例，system prompt规定先诊断错因再给步骤，temperature设0.3，top_p设0.9，frequency_penalty设0.1，输出稳定性和可读性更好。口语陪练可以设temperature 0.7，鼓励自然表达。每次调整只改一个参数，保留对照日志，用同一批学员问题做盲评，观察正确率、可读性和格式合规率。参数调优的目标不是让输出看起来更“聪明”，而是让教学表达更一致、更可控。
3. 输出长度、结构化与工具调用
max_tokens决定输出上限，设太小会截断解题步骤，设太大增加成本和等待。常规答疑600到1000，教案和学情报告1500到2500，复杂推理按文档上限留余量。max_tokens不是越长越好，AI指导老师要控制单次讲解的认知负荷。配合stop和分段生成，把长内容拆成诊断、步骤、练习三个请求，质量更可控。输出长度还要结合学员学段调整，低龄学员的讲解应更短、更聚焦。
response_format支持JSON模式时，可以把诊断报告、学习计划、题目解析变成结构化字段。提示词中明确要求输出JSON，并给出字段示例，否则模型可能返回解释性文字。结构化输出便于前端渲染和入库，也便于校验。比如批改作文返回score、errors、suggestions、next_action四个字段，max_tokens按字段长度估算。JSON模式不是万能，复杂长文本仍要加解析失败兜底，不能把解析错误直接暴露给学员。
工具调用让AI指导老师从“会讲”变成“能办事”。通过tools定义查题库、算分、排课、查学习记录等函数，模型返回函数名和参数，后端执行后再把结果交回模型组织讲解。工具描述要短而明确，参数schema要严格，避免模型编造参数。工具调用适合需要实时数据的场景，比如根据学员最近错题推荐练习。调用失败要有降级话术，不能把原始错误抛给学员，工具返回结果也要做二次校验。
4. 上线验证、成本与异常处理
参数配置上线前要建立验证闭环。记录每次请求的model、temperature、top_p、max_tokens、stop、response_format、prompt_version、latency、输入输出token和用户反馈。评估指标包括答案正确率、讲解可读性、格式合规率、首token延迟和单次成本。AI指导老师的输出还要看教学安全性，比如是否超纲、是否给出错误鼓励。用固定评测集回归，避免参数改动导致旧问题复发。评测集要覆盖不同学科、学段和题型，不能只用少量样本。
灰度发布比一次性全量更稳。先把新参数放10%流量，观察一周，对比旧配置的完成率、追问率和投诉率。发现异常按模型或任务类型回滚。成本控制可以从缓存和路由入手，高频知识点问答缓存结果，复杂任务才走推理模型。流式输出要处理断连，记录已生成内容，避免重复计费。限流按用户和租户维度设置，防止单学员刷爆额度。参数变更要和prompt变更分开灰度，否则问题归因会很困难。
异常处理要覆盖超时、限流、内容为空和格式解析失败。重试采用指数退避，设置最大次数；解析失败先尝试修复JSON，再降级为纯文本；内容为空时返回引导话术并记录样本。参数不是一次性配置，随着模型版本和教学策略变化要持续调优。把参数、提示词和评测结果放在同一张配置表里，才能让AI指导老师的教学质量可追踪、可复现。
