面向AI指导老师，覆盖硬件选型、Ollama与vLLM部署、Open WebUI交互、教学提示词与RAG维护，强调隐私、成本与稳定。 DeepSeek开源权重把大模型从云端拉到本地机房，但能跑和好用之间隔着模型版本、量化格式、显存预算、并发能力和教学数据合规。很多指导老师第一次部署时容易直接拉取671B完整模型，结果卡在下载和加载阶段；也有人只装一个聊天界面，却忽略上下文窗口、嵌入模型和权限控制。下面按实际落地顺序展开，先判断硬件与模型匹配，再完成轻量部署、接口配置和教学场景维护，让本地DeepSeek真正进入备课、答疑、题库加工与教研协作。
1. 硬件选型与模型版本匹配
DeepSeek当前开源生态包含R1完整MoE模型和蒸馏版。R1完整参数671B，总参671B，推理时激活约37B，但权重仍占数百GB，官方推荐多卡H100或A100 80GB集群，用vLLM或SGLang张量并行。蒸馏版基于Qwen和Llama，有1.5B、7B、8B、14B、32B、70B等，适合单机。量化格式常见GGUF、AWQ、GPTQ，Q4_K_M在7B上约4到5GB，14B约9到10GB，32B约20GB，70B约40GB。消费级RTX 4060 Ti 16GB可跑14B Q4，24GB的4090可跑32B Q4，Mac统一内存32GB或64GB可跑14B或32B。上下文窗口也会吃显存，R1支持128K，但本地开32K以上时KV cache显著增长。 教学场景要按任务选型。教案生成、题目改写、学生答疑可以用7B或14B蒸馏版，速度快、成本低；数学证明、代码调试、长文档分析选32B或70B；校级知识库和复杂推理若有服务器，可上完整R1或70B多卡。磁盘预留要充足，模型缓存、向量库、日志和备份至少准备500GB，完整671B建议1TB以上NVMe。合规上，学生姓名、成绩、未公开试卷不宜进入公有云，本地部署的价值正在于数据不出校。指导老师应先确认显卡型号、显存、内存、磁盘和操作系统，再决定用Ollama起步还是直接vLLM。
2. Ollama轻量部署与本地模型落盘
Ollama是本地部署的较稳起点，支持Windows、macOS和Linux，安装后默认在11434端口提供模型服务。终端执行ollama pull deepseek-r1:7b会拉取蒸馏版，执行ollama run deepseek-r1:7b进入交互。若网络不稳，可先通过ModelScope或Hugging Face下载GGUF文件，再写Modelfile，内容包含FROM ./deepseek-r1-7b-q4_k_m.gguf、PARAMETER num_ctx 8192、PARAMETER temperature 0.6和SYSTEM教学助手提示，随后执行ollama create deepseek-teach -f Modelfile。Ollama默认上下文偏小，长教案和试卷分析要显式提高num_ctx，但32K以上需关注显存和内存。 验证环节用ollama list查看模型，ollama ps查看运行实例和占用。NVIDIA显卡安装驱动与CUDA后Ollama会自动启用GPU，macOS走Metal，Linux可用systemd常驻ollama serve。模型文件通常在~/.ollama/models，迁移时复制该目录即可。Ollama的OpenAI兼容端点是/v1/chat/completions，原生接口有/api/generate和/api/chat，方便接入自研教研工具。它不适合高并发，班级规模超过十人同时提问会排队，此时应换vLLM或SGLang。安全上不要把11434直接暴露公网，确需远程访问应加反向代理、HTTPS和认证。
3. Open WebUI与OpenAI兼容接口
Ollama负责模型运行，Open WebUI负责多人交互。用Docker部署时，执行docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main，然后在管理设置里把Ollama地址指向:11434。首次访问3000端口注册管理员，可创建教师、教研组等用户，会话记录保存在数据卷。Open WebUI支持模型切换、温度、top_p、上下文长度和系统提示，也能上传教材、课标、试卷构建知识库。RAG需要嵌入模型，中文场景可用ollama pull bge-m3或nomic-embed-text，文档分块建议500到1000字，重叠100到200字，检索后让DeepSeek基于片段回答并给出来源。 如果并发较高或需要多卡，vLLM更合适。安装后可用vllm serve deepseek-ai/DeepSeek-R1-Distill-Qwen-7B --max-model-len 8192 --gpu-memory-utilization 0.9启动OpenAI兼容服务，Open WebUI或教学平台把base_url指向该服务。完整R1 671B需要多机多卡，常见组合是vLLM张量并行加SGLang调度。应用集成时，Python使用OpenAI SDK，base_url设为:11434/v1，api_key填ollama，模型名写deepseek-r1:7b。R1输出可能带 thinking思维链标签，前端展示前要过滤或折叠，避免学生直接看到冗长推理。备份方面，Open WebUI的数据卷、Ollama模型目录和向量库要纳入定期快照。
4. 教学提示词、RAG与长期维护
本地模型能否服务教学，取决于提示词和知识组织。指导老师可固定模板：角色、任务、约束、输出格式。例如“你是初中数学教研员，根据勾股定理生成五道分层练习题，标注答案与解析，不得超纲，用表格输出”。DeepSeek-R1在数学、代码和逻辑推理上表现突出，但需要给足背景。温度建议数学与批改0.2到0.4，教案创意0.6到0.8，代码0.1到0.3。上下文可设8K到32K，长文档不要硬塞，应走RAG。知识库建设包括教材、课程标准、历年真题、校本作业和错题集，流程是解析、清洗、分块、嵌入、检索、重排、生成，引用来源便于教师核验，降低幻觉。微调不是第一步，LLaMA-Factory配QLoRA可在24GB显存微调7B或14B，但多数格式和风格需求用提示词加RAG即可满足。 长期维护要关注显存、磁盘、日志和版本。量化模型升级后重新测试问答质量，vLLM可开启PagedAttention、FlashAttention和KV cache量化提升吞吐。教学使用要建立审计与权限，敏感数据只在本地流转，定期清理会话和临时文件。教师端应保留人工复核，尤其是成绩评语和试题答案。若发现回答偏离课标，回查检索片段和系统提示，而不是盲目换模型。把部署、使用、维护写成校内规范，明确谁负责更新、谁负责备份、谁负责审核，才能让本地DeepSeek从一次安装变成稳定教研工具。
