围绕DeepSeek V3的环境配置、提示设计、API集成与进阶编排,提供可落地的上手路径与教学实践参考。
DeepSeek V3采用MoE架构,总参数671B、单token激活约37B,支持128K上下文,在中文理解、代码生成和长文档处理上表现突出。对AI指导老师而言,教学重点不是背诵参数,而是让学员在真实任务中理解模型边界、调用和成本结构。以下内容按上手、提示、集成、进阶四个层面展开,既可作为课程讲义,也可作为项目实施的检查清单。
1. 环境准备与首次调用
先区分网页端、App与API三条入口。网页端适合体验对话、文件上传和长文总结,API适合把模型接入自有系统。注册platform.deepseek.com后创建API Key,密钥只保存一次,不要写进前端代码。DeepSeek API兼容OpenAI SDK,base_url通常填写,模型名deepseek-chat对应V3系列通用对话模型,deepseek-reasoner对应推理模型。Python环境中安装openai包后,可以用client = OpenAI(api_key=”…”, base_url=”https://api.deepseek.com”)创建客户端,再调用chat.completions.create,传入model=”deepseek-chat”和messages数组。流式输出只需设置stream=True,适合聊天界面逐步显示。
首次调用要重点理解几个参数。temperature控制随机性,0.2适合抽取、分类、代码修复,1.0适合创意写作和头脑风暴;max_tokens限制输出长度,设置过小会导致答案截断,设置过大则增加成本;top_p通常保持默认即可。128K上下文不等于每次都塞满,长上下文会带来更高延迟和费用,也会稀释关键信息。返回结果中的usage字段包含prompt_tokens和completion_tokens,应养成记录习惯。常见错误包括模型名写错、余额不足、代理配置异常、把API Key暴露在浏览器端,以及误以为deepseek-chat就是推理专用模型。
教学场景中,可以让学员用同一篇3000字文章完成摘要、实体抽取和FAQ生成三项任务,分别记录延迟、token消耗和主观质量。再要求他们对比temperature为0.2与1.0时的输出差异,保存调用日志,形成可复现实验。环境准备还包括Python 3.10以上版本、虚拟环境、dotenv管理密钥、日志库和异常重试。第一次成功调用不是终点,而是建立实验记录和成本意识的起点,这决定了后续课程能否顺利进入工程化阶段。
2. 提示词结构与任务拆解
DeepSeek V3对结构化指令较为敏感,提示词至少应包含角色、目标、上下文、约束和输出格式。例如“你是电商客服质检专家,根据对话记录判断是否违规,输出JSON,字段包括risk_level、reason、suggestion”,比“帮我看看有没有问题”稳定得多。系统消息适合固定角色和规则,用户消息放待处理材料。约束要可验证,包括字数、字段、语气、禁止编造、引用来源。面对长文档,可以先让模型提炼目录和关键事实,再执行具体任务,避免一次性指令过载导致遗漏。
复杂任务需要拆解。合同审阅可以拆成条款识别、风险评级、修改建议三步,每一步单独调用,把上一步的结构化结果作为下一步输入。少样本示例能显著稳定格式,两到三个高质量示例通常足够,示例应覆盖正常、边界和失败三类情况。需要JSON时,除了在提示词中明确“只输出JSON”,还可以使用response_format={“type”:”json_object”},并给出字段说明和空值规则。函数调用适合需要外部数据的场景,例如查订单、算税费、检索库存,模型负责决定调用哪个工具,后端负责执行和返回结果。
AI指导老师可以设计“提示词版本对比”实验:同一任务写三版提示词,从模糊到结构化,让学员用20条测试集打分,指标包括格式正确率、事实一致性、可读性和拒绝回答准确率。记录失败案例,分析是上下文缺失、指令冲突、示例误导还是模型幻觉。提示词工程不是写咒语,而是把业务规则翻译成模型可执行指令。教学中要避免只展示成功案例,应让学员看到边界条件,例如输入含歧义、文档含表格、用户要求与系统规则冲突时,模型会如何表现。
3. API集成与成本控制
生产集成通常由后端封装DeepSeek API,前端只调用自家接口。密钥放环境变量或密钥管理服务,配置超时、重试、熔断和限流。流式输出适合聊天,非流式适合批处理。并发高时使用异步客户端和连接池,注意429限流并做退避重试。保存request_id和usage,方便对账和排查。对于多轮对话,需要裁剪历史或做滚动摘要,避免上下文无限增长。系统提示、工具描述、检索片段都会计入输入token,设计时应像管理数据库查询一样管理提示词体积。
成本由输入和输出token决定,输出单价通常更高,上下文缓存命中会显著降低输入成本。控制成本的手段包括压缩系统提示、只传相关文档片段、复用缓存前缀、限制max_tokens、把简单分类路由给规则或小模型。以一个知识库问答为例,每次检索8段、每段500字,约6000字上下文,按每天1000次调用估算,输入token消耗相当可观;若把检索段压缩到4段并做摘要,成本可能接近减半,但必须评估答案召回率是否下降。缓存命中与未命中的价差往往达到数倍,因此稳定前缀和固定系统消息具有实际经济价值。
教学项目可以要求学员搭建成本仪表盘,统计日调用量、平均输入输出token、缓存命中率、单次任务成本。用A/B测试比较“全量上下文”与“摘要加检索”方案,观察准确率和成本曲线。AI指导老师要强调,成本优化不是单纯省钱,而是在质量、延迟和预算之间找平衡。把预算告警和用量上限写进集成代码,能避免演示项目因密钥泄露或死循环调用产生意外账单。对于企业培训,还可以加入配额分配、部门核算和异常调用审计,让学员理解大模型应用也是资源管理问题。
4. 进阶微调、RAG与智能体编排
DeepSeek V3官方API主要提供推理服务,常规微调并非主要路径。多数团队更适合RAG:把文档切分成300到800字的块,向量化后存入向量库,检索top-k片段,经重排后拼接进提示词,再让V3生成答案。V3的128K上下文允许一次放入较多材料,但检索质量决定上限。切分要保留标题和层级,重排模型能提升命中率。回答中要求引用来源,可降低幻觉。对于表格和扫描件,应先做结构化解析,否则检索到的文本可能丢失关键行列关系。
智能体编排把V3作为决策核心,通过函数调用连接搜索、数据库、代码执行和工单系统。典型模式是规划者拆解任务,执行者调用工具,检查者验证结果。以销售分析助手为例,用户问“本月华东区退款原因”,智能体先调用SQL查询聚合数据,再让V3解释异常,最后生成图表和报告。工具描述要清晰,参数schema要严格,错误信息要返回给模型,让它决定重试或换工具。多智能体不是越多越好,职责重叠会增加延迟和成本,通常两到三个角色足以覆盖规划、执行和校验。
开源权重可以本地部署,但671B MoE对显存和工程要求高,量化、vLLM或SGLang部署需要专门运维,适合有GPU资源的团队。对教学而言,更现实的进阶路径是让学员完成一个RAG客服或代码助手,加入评测集,统计准确率、幻觉率、首token延迟和单次成本。安全层面,工具调用使用最小权限令牌,数据库只读账号,代码执行放沙箱,日志脱敏。这些配置决定智能体能否从课堂演示走向生产环境。

