围绕Ollama本地部署DeepSeek，梳理硬件选型、环境配置、模型拉取、推理验证与调优集成，帮助AI教学场景低成本落地。
大模型进入课堂后，云端API的隐私、网络、成本和可复现性问题开始显现。把DeepSeek部署到本地，既能让学生观察模型请求与响应，也能在无外网环境下完成实验。Ollama把模型下载、量化加载、GPU调度和HTTP服务封装成命令行操作，显著降低了本地推理门槛。对AI指导老师而言，掌握这套流程，等于拥有一个可反复演示、可定制、可接入教学平台的小型模型实验室。
1. 硬件评估与DeepSeek模型选型
在Ollama的模型库中，DeepSeek相关模型主要有DeepSeek-R1的蒸馏版本，参数规模覆盖1.5B、7B、8B、14B、32B和70B，另外还有体量更大的DeepSeek-V3 671B版本。本地教学通常不会直接运行671B模型，因为它需要多卡服务器和大容量内存，部署与运维成本远高于课堂需求。更现实的选择是DeepSeek-R1的7B、8B、14B或32B版本。按Q4_K_M量化估算，7B模型约占5GB到6GB显存，8B约占6GB到7GB，14B约占9GB到12GB，32B约占20GB到24GB，70B则接近40GB到48GB。如果显存不足，Ollama会自动把部分层放到CPU和内存中执行，模型仍能运行，但token生成速度会明显下降，课堂互动体验会受到影响。
选型时还要看蒸馏来源和语言能力。DeepSeek-R1的7B、14B、32B版本多基于Qwen蒸馏，中文理解、长文本问答和提示词跟随相对友好；8B和70B版本基于Llama蒸馏，英文生态和通用推理表现有优势。若课程以中文问答、教案生成、代码解释为主，7B或14B通常足够；若涉及数学证明、复杂代码生成和多步推理，14B或32B更稳妥。硬件方面，NVIDIA RTX 3060 12GB、4060 Ti 16GB、3090或4090 24GB是常见教学配置，Apple Silicon统一内存16GB可运行7B，24GB或32GB可尝试14B和32B，AMD显卡则需要确认ROCm支持情况。机械硬盘和非NVMe固态会拖慢模型加载，建议预留50GB以上磁盘空间，并通过OLLAMA_MODELS把模型目录迁移到大容量SSD。
教学部署前应做硬件普查，明确每台机器的显卡、显存、内存、磁盘和驱动版本。统一采用同一模型标签可以减少环境差异，例如基础班使用deepseek-r1:7b，进阶班使用deepseek-r1:14b，研究组再考虑deepseek-r1:32b。如果机房并发较高，需要为每个并行请求预留显存，Ollama的OLLAMA_NUM_PARALLEL参数虽然能提升吞吐，但也会成倍增加显存占用。合理选型不是追求最大参数，而是在回答质量、响应速度和维护成本之间找到课堂可承受的平衡点。
2. Ollama安装与运行环境准备
Ollama支持Windows、macOS和Linux。Windows与macOS可直接下载安装包，安装完成后在终端执行ollama --version确认版本。Linux常用安装命令是curl -fsSL | sh，脚本会创建ollama用户、安装二进制文件并注册systemd服务，随后可用systemctl status ollama查看状态。Ollama默认在本机127.0.0.1:11434提供HTTP服务，模型文件Linux下通常位于/usr/share/ollama/.ollama/models，macOS和Windows用户目录下也有对应缓存。若希望把模型放到独立数据盘，可在服务配置中设置OLLAMA_MODELS，重启服务后生效。安装完成后不要急着拉取模型，先确认GPU驱动是否正常，NVIDIA用户运行nvidia-smi查看驱动和显存，AMD用户检查ROCm环境，Apple Silicon用户确认Metal加速可用。
环境变量决定了Ollama的服务行为。OLLAMA_HOST用于修改监听地址，默认只允许本机访问，若要让局域网学生机连接，可设为0.0.0.0:11434，但必须配合防火墙、反向代理和认证，不能直接暴露到公网。OLLAMA_KEEP_ALIVE控制模型在内存中的驻留时间，课堂连续实验可设为30m或-1，减少反复加载。OLLAMA_NUM_PARALLEL控制并发请求数量，OLLAMA_MAX_LOADED_MODELS限制同时加载的模型数量。若机房通过代理上网，需要在systemd服务文件中配置HTTP_PROXY和HTTPS_PROXY，否则模型下载可能超时。Docker用户可运行ollama/ollama镜像，启动时加上--gpus all并挂载模型目录，适合批量复制教学环境。
准备阶段还会遇到端口占用、权限不足、显卡未识别和下载中断等问题。端口冲突可用ss -tlnp | grep 11434排查，权限问题可检查ollama用户是否属于render或video组，显卡未识别通常与驱动版本有关，下载中断则可通过重新执行pull续传。作为AI指导老师，建议提前制作离线模型包或内部镜像源，将安装脚本、模型文件、环境变量和验证命令整理成标准化实验手册。这样即使机房网络受限，学生也能在本地完成从安装到推理的完整流程，教师排障时只需聚焦驱动、显存和服务日志三个方向。
3. 拉取模型与本地推理验证
模型拉取从ollama pull deepseek-r1:7b开始，首次下载会从Ollama模型库获取分层文件，7B量化模型通常约4GB到5GB，14B约9GB，32B约20GB，具体大小取决于量化版本。下载完成后用ollama list查看本地模型，用ollama show deepseek-r1:7b查看架构、参数、量化和模板。运行ollama run deepseek-r1:7b进入交互界面，输入中文问题、代码题或数学题即可测试。退出交互可使用/bye。若需要查看运行中的模型，可执行ollama ps，它会显示模型名称、大小、处理器占用和驻留时间。课堂验证时不要只问一个简单问题，应覆盖事实问答、多步推理、代码生成和长上下文摘要，观察不同任务下的响应速度与显存变化。
Ollama自带REST API，默认地址是:11434。使用/api/generate可以完成单轮生成，请求体包含model、prompt和stream等字段；使用/api/chat可以模拟多轮对话。若要接入现有教学平台，OpenAI兼容接口更实用，地址为:11434/v1，api_key可填ollama，模型名填deepseek-r1:7b。Python中可用openai库或requests库调用，把base_url指向本地服务即可。验证API时要检查返回JSON中的response、done、eval_count和eval_duration等字段，这些数据能帮助学生理解token生成速度、首token延迟和总耗时，而不仅仅是看答案是否正确。对于DeepSeek-R1，还可以通过提示词或自定义模板控制是否展示推理过程，便于课堂讨论模型如何分解问题。
当默认参数不能满足教学需求时，可以用Modelfile创建定制模型。一个典型文件以FROM deepseek-r1:7b开头，加入PARAMETER temperature 0.6、PARAMETER num_ctx 8192和SYSTEM 你是一名耐心的AI助教等配置，然后执行ollama create deepseek-teacher -f Modelfile，再用ollama run deepseek-teacher运行。这样可以把课程角色、回答风格和上下文长度固化下来，避免每次对话重复输入系统提示。验证阶段还应记录失败案例，例如中文乱码、上下文截断、代码无法运行和显存溢出。把这些现象与参数、硬件、提示词对应起来，学生就能从“会运行”进入“懂原理”的层次，教师也能据此调整后续实验难度。
4. 参数调优、接口集成与教学应用
参数调优要围绕课堂目标展开。温度参数temperature影响随机性，数学推理和代码生成通常设在0.2到0.6之间，创意写作可适当提高；top_p用于控制采样范围，常与温度配合；num_ctx决定上下文窗口，Ollama默认值较小，处理长教案或论文时需调到4096或8192，但显存占用会上升；num_predict限制最大输出长度，可防止模型无限生成；repeat_penalty用于抑制重复。若发现回答速度慢，可先降低num_ctx和并发数，再检查是否发生CPU回退。OLLAMA_KEEP_ALIVE设为较长时间能让模型常驻显存，适合连续课程；机房夜间不用时则应及时释放，避免占用资源。调优不是追求一组万能参数，而是让学生通过对照实验理解参数与输出质量、延迟、显存之间的因果关系。
接口集成决定了本地模型能否进入真实教学流程。Open WebUI可以提供类似ChatGPT的网页界面，Dify适合搭建知识库和智能体，LangChain适合编写检索增强生成链路，Continue和VS Code插件则能把DeepSeek接入编程教学。配置时通常只需把服务地址指向Ollama的OpenAI兼容端点，再选择deepseek-r1:7b或deepseek-r1:14b。本地知识库场景中，教师可把课程大纲、实验手册和常见问题切分后存入向量库，检索相关片段再交给DeepSeek生成回答，这样既能减少幻觉，又能让模型引用校内资料。若服务需要跨机房访问，应在Nginx或Caddy后增加HTTPS、访问令牌和IP白名单，避免OLLAMA_HOST直接暴露带来的安全风险。
教学应用可以设计成由浅入深的模块。入门课让学生完成安装、拉取、命令行对话和API调用，理解模型不是魔法而是可管理的本地服务；进阶课比较7B、14B、32B在数学、代码和中文写作上的差异，记录准确率、首token延迟和显存占用；项目课用RAG搭建课程问答助手，或用LLaMA-Factory等工具做轻量微调，再导出GGUF并写回Modelfile。AI指导老师还应强调合规与成本，本地部署减少了数据外传，但硬件采购、电力和维护仍有成本。通过Ollama部署DeepSeek，课堂可以从调用API转向理解模型运行、评估模型能力并解决真实教学问题，这才是本地部署在AI指导中的核心价值。
