围绕 DeepSeek 在 LM Studio 的本地部署，讲解模型选择、量化下载、参数调优与 API 接入，帮助 AI 指导老师搭建离线推理环境。
在 AI 指导老师日常工作中，教案生成、代码讲解、学情分析和答疑机器人常需要稳定、私密且可控的模型服务。DeepSeek 系列在中文理解、数学推理和代码生成方面表现突出，而 LM Studio 把模型下载、量化管理和本地推理封装成桌面工具，降低了部署门槛。将两者结合，可以在普通工作站上获得可离线运行的智能助教，也能通过本地 API 接入现有教学平台。下面从环境准备、模型选择、对话调优和接口集成四个环节展开。
1. 环境准备与 LM Studio 安装要点
LM Studio 的安装门槛不高，但 DeepSeek 模型的运行效果取决于内存、显存和存储带宽。以常见的 DeepSeek-R1-Distill-Qwen 系列为例，7B 模型采用 Q4_K_M 量化后文件约 4.5GB，运行时需要 8GB 以上内存或显存；14B 模型约 9GB，建议 16GB 内存加 12GB 显存；32B 模型约 20GB，更适合 32GB 内存与 24GB 显存的工作站。若仅用 CPU 推理，7B 量化模型可以运行，但生成速度可能降至每秒几个 token，课堂演示会显得迟滞。AI 指导老师应先确认学员设备是 Windows、macOS 还是 Linux，Windows 需要更新 NVIDIA 驱动或安装 Vulkan 运行时，macOS 则优先使用 Apple Silicon 的 Metal 加速。
安装时从 LM Studio 官网下载对应系统版本，首次启动后进入设置界面，把模型目录指向剩余空间充足的硬盘。模型文件体积大，建议预留 100GB 以上空间，并避免放在系统盘。LM Studio 内置运行时管理，可以在“Runtime”中更新 llama.cpp 或 MLX 后端，遇到新模型支持不足时，更新运行时往往比更换软件更有效。对于多显卡设备，可以在设置中指定主 GPU，并调整 GPU 卸载层数，让显存与内存协同工作。安装完成后，用一个小型模型做基准测试，确认温度、功耗和速度正常，再进入 DeepSeek 模型下载环节。
2. DeepSeek 模型检索、量化选择与下载策略
LM Studio 的模型库搜索框输入 DeepSeek 后，会出现官方与社区上传的多种 GGUF 文件。对本地部署而言，完整版 DeepSeek-V3 和 DeepSeek-R1 参数量达数千亿，普通设备无法直接承载，更适合选择蒸馏版本，例如 DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Llama-8B、DeepSeek-R1-Distill-Qwen-14B 和 32B。这些模型保留了较强的推理链路，同时能以量化格式在单机运行。搜索时注意区分“DeepSeek-R1”与“DeepSeek-Coder-V2”，前者适合通用推理和问答，后者偏代码补全与工程任务；若教学场景以编程辅导为主，可以优先考虑 Coder 系列，若以解题思路展示为主，则选择 R1 蒸馏系列。
量化选择直接影响质量与资源占用。Q4_K_M 是平衡点，文件小、速度较快，适合 7B 和 14B 课堂演示；Q5_K_M 和 Q6_K 质量更接近原始模型，但内存占用增加；Q8_0 几乎无损，却需要更大显存，通常用于 7B 或 8B 模型。下载前查看文件大小和社区反馈，优先选择下载量和评分较高的上传者。LM Studio 支持断点续传，网络不稳定时可以分时段下载。下载完成后在“My Models”中确认模型模板是否正确，R1 蒸馏模型通常需要 reasoning 模板，若模板缺失，聊天时可能无法显示思考过程。教学团队可以建立共享模型目录，让多名指导老师复用同一份文件，减少重复下载和存储浪费。
3. 对话配置、提示词与推理参数调优
加载 DeepSeek 模型后，LM Studio 右侧参数面板决定输出质量。上下文长度是首要变量，7B 和 14B 模型在 8K 到 16K 上下文下较稳定，32B 模型可尝试 32K，但 KV 缓存会占用大量显存，开启 Flash Attention 和将 KV 缓存卸载到 GPU 能改善速度。对于 DeepSeek-R1 蒸馏模型，官方建议温度在 0.5 至 0.7 之间，top_p 设为 0.95 左右，重复惩罚不宜过高，否则会破坏推理链。数学题和代码题适合较低温度，例如 0.4 至 0.6，创意写作和头脑风暴可以提高到 0.8。最大生成长度要预留足够空间，R1 模型会先生成思考内容，再给出答案，若 max tokens 只有 512，常会在推理中途截断。
提示词方面，DeepSeek-R1 对系统提示的敏感度因版本而异，蒸馏模型通常兼容系统角色，但不要把复杂规则堆叠在系统提示中。AI 指导老师可以设计“先分析需求，再给出步骤，最后提供可执行建议”的模板，让模型输出更贴近教学场景。例如让模型批改作文时，要求它先指出结构问题，再给出修改示例，最后生成评语。LM Studio 支持保存预设，可以把常用温度、上下文和提示词绑定为教学预设，减少重复设置。遇到输出循环或格式混乱时，先降低温度、提高重复惩罚，再检查聊天模板是否匹配；若显存不足，则减少上下文长度或降低 GPU 卸载层数，而不是盲目更换更大模型。通过对比不同量化版本和参数组合，指导老师能形成适合本校设备的配置清单。
4. 本地 API 服务与教学工具集成
当模型在 LM Studio 中稳定运行后，可以切换到 Developer 或 Server 面板启动本地 API 服务。默认地址为 :1234/v1，接口与 OpenAI 兼容，API Key 可以填写任意非空字符串。启动后通过 /v1/models 查看当前加载的模型标识，再在 Python、Node.js 或 curl 中把 base_url 指向该地址。教学平台若使用 OpenAI SDK，只需替换 base_url 和 api_key，就能把请求转发到本地 DeepSeek 模型。对于需要多人使用的场景，可以在 LM Studio 设置中开启局域网访问，让同一网段的教师机或学生机连接，但不要直接把端口暴露到公网，以免模型被滥用或数据外泄。
集成层面，Cherry Studio、Chatbox、Open WebUI、Continue、Cline 等工具都支持 OpenAI 兼容接口，AI 指导老师可以把 LM Studio 作为后端，搭建离线答疑、代码补全和教案生成工作流。以 Continue 为例，在配置文件中填入本地地址和模型名，即可在编辑器里获得 DeepSeek 的代码解释与重构建议；以 Open WebUI 为例，可以创建多用户聊天界面，为不同班级分配独立会话。需要注意并发请求会显著增加显存占用，单卡设备建议限制并发数，或为不同模型设置加载队列。若服务响应变慢，先检查上下文长度和并发量，再考虑启用量化程度更高的模型。通过本地 API，教学数据留在内网，模型能力又能被现有工具调用，这是 DeepSeek 与 LM Studio 组合在 AI 指导老师场景中的核心价值。
