围绕Docker部署DeepSeek，拆解镜像选择、容器编排、API集成与性能调优，为AI指导老师提供可落地的教学应用秘籍。
在AI指导老师场景中，DeepSeek常被用于课程答疑、代码辅导和学习路径规划，但裸机安装容易遇到CUDA、Python依赖和模型缓存冲突。Docker把运行环境封装成可复现镜像，让同一套模型服务能在实验室、教室和云端之间迁移。真正的使用秘籍不是记住某条命令，而是理解镜像、显存、接口与教学流程之间的配合关系。
1. 运行环境与镜像选型
部署前先确认硬件边界。CPU-only可以运行7B量化模型，但响应慢，适合低并发演示；GPU建议NVIDIA 12GB显存起步，7B蒸馏版INT4约6GB，14B INT4约10GB，32B INT4接近20GB。Docker Engine 24以上，NVIDIA驱动535以上，安装nvidia-container-toolkit后，用 docker run --rm --gpus all nvidia/cuda:12.4.1-base-ubuntu22.04 nvidia-smi 验证容器能看到显卡。若命令报错，先检查驱动与toolkit版本，而不是急着拉模型。
镜像选型决定后续维护成本。Ollama镜像 ollama/ollama 内置模型拉取、量化和API，适合AI指导老师快速搭建课堂助手；vLLM镜像 vllm/vllm-openai 面向高并发和OpenAI兼容接口，适合多班级共用；TGI镜像适合Hugging Face生态，SGLang对结构化输出更友好。DeepSeek官方权重可从Hugging Face获取，教学场景优先选 DeepSeek-R1-Distill-Qwen-7B 或14B，既保留推理链风格，又能在单卡运行。选镜像时要核对CUDA、PyTorch和量化支持，避免出现权重能下载但内核不兼容。
目录与安全规划同样关键。把模型缓存挂载到宿主机，例如 -v /data/hf:/root/.cache/huggingface 和 -v /data/ollama:/root/.ollama，重建容器时不必重新下载数GB权重。设置Docker日志轮转，限制单个日志文件大小，防止长期运行占满磁盘。教学网络通常不需要公网暴露，若必须开放，应通过Nginx反向代理并加API key和限流。多人共用时，提前规划端口、用户隔离和对话记录保存策略，避免学生数据混在一起。
2. 容器编排与模型加载
Ollama部署适合快速起步。命令可以写成 docker run -d --gpus all -v /data/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama，随后执行 docker exec -it ollama ollama run deepseek-r1:7b 拉取并进入交互。Ollama默认监听11434，提供 /api/chat 和OpenAI兼容的 /v1/chat/completions。如果显存不足，选择 deepseek-r1:1.5b 或7B的q4量化版本；如果课堂需要展示推理过程，可保留较高上下文，但要把并发控制在显卡承受范围内。
vLLM适合把DeepSeek做成稳定服务。典型启动命令是 docker run --runtime nvidia --gpus all -v /data/hf:/root/.cache/huggingface -p 8000:8000 --name deepseek-vllm vllm/vllm-openai:latest --model deepseek-ai/DeepSeek-R1-Distill-Qwen-7B --served-model-name deepseek-r1-7b --max-model-len 8192 --gpu-memory-utilization 0.9。国内下载权重慢时，可在容器中设置 HF_ENDPOINT=-mirror.com，或提前在宿主机下载后挂载缓存目录。vLLM启动时会预分配显存并编译图，首次加载可能持续几分钟，看到 /v1/models 返回模型列表才算就绪。
多容器协作建议用Docker Compose管理。把Ollama、Open WebUI、向量数据库和Nginx写入同一个 docker-compose.yml，通过服务名互相访问，例如Open WebUI设置 OLLAMA_BASE_URL=:11434，避免依赖宿主机IP。为模型服务配置健康检查、restart: unless-stopped 和独立卷，让课堂中途容器崩溃后能自动恢复。模型版本要固定到具体tag或commit，不要在生产教学环境直接使用 latest，否则一次更新可能改变回答风格，影响课程材料的一致性。
3. API服务与教学应用集成
DeepSeek容器化后通常暴露OpenAI兼容接口，vLLM对应 :8000/v1/chat/completions，Ollama对应 :11434/v1/chat/completions。这些接口可以接入LangChain、Dify、FastGPT、Open WebUI等工具，也方便AI指导老师把课程知识库、作业系统和聊天前端串起来。实际教学里，学生问题先经过检索增强，从讲义、代码仓库和错题集中找到相关片段，再交给DeepSeek生成解释，能显著降低模型编造概念的概率。
提示词设计要体现指导而非代答。系统提示可以写成“你是一名AI指导老师，请用启发式提问引导学生，先确认他卡在哪一步，再给出最小必要提示；除非学生连续两次请求，不要直接给完整答案”。例如Python递归课上，学生问阶乘函数为什么报错，模型应先追问基线条件，再让学生检查 n == 0 分支，最后提供一组测试用例。参数上，答疑场景可用temperature 0.2到0.6，max_tokens 1024，top_p 0.9；批改作业时要求JSON输出评分、错误类型和改进建议，vLLM的guided decoding能提高格式稳定性。
前端部署可以用Open WebUI快速实现。命令 docker run -d -p 3000:8080 -v open-webui:/app/backend/data --add-host=host.docker.internal:host-gateway -e OLLAMA_BASE_URL=:11434 --name open-webui ghcr.io/open-webui/open-webui:main 能让教师在内网访问聊天界面。若Ollama和Open WebUI在同一Compose网络，则把地址改为 :11434。多班级使用时，按API key区分权限，记录对话用于教学分析前先做匿名化。对代码题，可把单元测试结果作为工具返回给模型，形成“解释—练习—验证”的闭环，这比单纯问答更接近AI指导老师的价值。
4. 性能调优与运维秘籍
显存是DeepSeek容器化的第一约束。7B模型FP16约需14GB，INT4量化约4到6GB；14B FP16约28GB，INT4约8到10GB；32B INT4接近18到20GB。vLLM可通过 --gpu-memory-utilization 0.85 和 --max-model-len 4096 降低KV cache占用，Ollama可设置 OLLAMA_NUM_PARALLEL=2、OLLAMA_MAX_LOADED_MODELS=1、OLLAMA_KEEP_ALIVE=10m 控制并发和驻留时间。遇到CUDA out of memory，先降上下文长度和并发，再考虑换更小量化版本，不要只靠重启容器掩盖问题。
监控与日志决定服务能否长期稳定。用 nvidia-smi dmon 观察GPU利用率和显存，用 docker stats 查看容器CPU、内存和网络，vLLM的 /metrics 可接入Prometheus，再在Grafana中展示吞吐、首token延迟和排队情况。容器启动参数加 --restart unless-stopped，日志驱动设为json-file并限制大小，避免几周后磁盘被日志吃满。对外服务前放Nginx，启用HTTPS、API key和按学生或班级的限流，例如每分钟20次请求，防止一个脚本拖垮整张显卡。
教学运维有几个固定动作。课前预热模型，先发一条简单请求，避免上课第一问等待几十秒；课中固定模型版本、系统提示词和参数模板，保证不同班级体验一致；课后导出匿名日志，统计高频问题和失败回答，用于更新知识库。升级时采用蓝绿部署，新容器启动并通过 /v1/models 检查和几道基准题验证后，再把Nginx upstream指向新端口，旧容器保留一个课时以便回滚。模型缓存、向量库和Open WebUI数据库要纳入备份，恢复演练也要做，否则Docker带来的可复现性只停留在镜像层面。
