面向AI指导老师与开发者，系统梳理Ollama运行DeepSeek的安装、选型、调用、集成与教学优化路径。
在数据合规、离线实验和成本控制需求推动下，本地大模型正在从技术演示走向教学与生产环境。Ollama把模型下载、量化、显存调度和API服务封装为统一运行时，DeepSeek系列则在推理、中文理解和代码任务上表现突出。将两者结合，既能搭建私有问答系统，也能为AI课程提供可复现的实验平台。
1. 环境准备与Ollama安装
Ollama是一款轻量级本地大模型运行时，底层基于llama.cpp，支持macOS、Linux和Windows，能够自动完成模型拉取、量化加载、显存与内存调度以及本地API暴露。安装前需要确认硬件条件，CPU建议支持AVX2指令集，内存至少16GB，若运行14B以上模型则推荐32GB或更高；GPU方面，NVIDIA显卡建议8GB显存起步，AMD显卡需要ROCm支持，Apple Silicon则依靠统一内存和Metal加速。Linux用户可执行curl -fsSL | sh完成安装，Windows用户下载OllamaSetup.exe，macOS用户可使用官方dmg或Homebrew安装。安装后用ollama –version验证版本，执行ollama serve启动服务，默认监听127.0.0.1:11434。
模型与运行数据默认存放在用户目录下的.ollama文件夹，Linux和macOS通常是~/.ollama/models，Windows则是%USERPROFILE%\.ollama。教学环境中常通过OLLAMA_MODELS把模型目录迁移到大容量磁盘或共享存储，通过OLLAMA_HOST调整监听地址，通过OLLAMA_KEEP_ALIVE控制模型驻留时间，通过OLLAMA_NUM_PARALLEL设置并发请求数，通过OLLAMA_MAX_LOADED_MODELS限制同时加载的模型数量。GPU加速方面，NVIDIA用户需安装合适驱动和CUDA运行时，Ollama会自动检测；AMD用户需配置ROCm；Apple Silicon通常开箱即用。使用ollama ps可以查看当前运行模型、占用大小以及调用的是GPU还是CPU，配合nvidia-smi或系统监视器能快速定位显存瓶颈。
面向AI指导老师，环境准备最好做成标准化脚本或容器镜像，避免学员在依赖安装阶段消耗过多时间。Docker部署可使用ollama/ollama镜像，挂载模型目录并映射11434端口，适合机房统一管理。需要特别提醒的是，默认服务只允许本机访问，若设置OLLAMA_HOST=0.0.0.0对外暴露，必须增加防火墙规则、反向代理和鉴权层，否则本地模型和API可能被局域网内其他设备滥用。离线教室可提前拉取所需DeepSeek模型，并用共享目录减少重复下载，从而把课堂重点放在模型能力与教学应用上。
2. DeepSeek模型拉取与参数选择
Ollama官方模型库中，DeepSeek系列覆盖deepseek-r1、deepseek-v3、deepseek-coder-v2等多个方向。拉取模型只需执行ollama pull deepseek-r1:7b，运行则使用ollama run deepseek-r1:7b。DeepSeek-R1常见标签包括1.5b、7b、8b、14b、32b、70b和671b，其中小规模版本多由Qwen或Llama蒸馏而来，适合本地实验；671B版本采用MoE架构，参数规模大，通常需要多卡服务器或云端环境。DeepSeek-Coder-V2更适合代码补全、审查和生成任务，DeepSeek-V3则偏向通用对话与复杂推理。选型时可按Q4量化估算显存，7B约需5到6GB，14B约需10到12GB，32B约需20到24GB，70B约需40到48GB，671B则远超单机消费级显卡能力。
查看模型信息可执行ollama list、ollama show deepseek-r1:7b，了解上下文长度、量化、对话模板和默认参数。Ollama默认上下文窗口往往设置为4096，而DeepSeek-R1本身支持更长上下文，实际可用长度受显存和内存限制。推理时可通过/set parameter num_ctx 8192临时扩大上下文，也可在API的options中传入num_ctx。温度设置方面，R1官方建议在0.5到0.7之间，代码任务可降到0.2到0.4，创意写作可升到0.7到1.0；top_p通常设在0.9到0.95，num_predict用于限制最大输出长度。教学演示中，临时调整参数能让学员直观看到温度、上下文和输出长度对结果的影响。
若需要固定配置，可编写Modelfile，例如写入FROM deepseek-r1:7b、PARAMETER temperature 0.6、PARAMETER num_ctx 8192，再执行ollama create my-deepseek -f Modelfile生成自定义模型。量化选择同样关键，q4_K_M在精度和占用之间较均衡，q8_0精度更高但显存占用明显增加，q2_K虽然轻量却可能损失推理质量。AI指导老师可以设计对比实验，让学员用同一组数学、代码和中文写作问题测试1.5B、7B、14B、32B模型，记录回答准确率、首token延迟和生成速度，从而理解模型规模、量化等级与硬件成本之间的权衡。
3. 本地推理、API调用与客户端集成
命令行是验证Ollama与DeepSeek是否正常工作的第一步。执行ollama run deepseek-r1:7b后，可直接输入问题，多行输入可用三引号包裹，退出使用/bye，清空上下文使用/clear，查看模型信息使用/show info。DeepSeek-R1在输出中可能包含思考过程标签，适合教学时展示推理链路，但也要提醒学员区分思考内容与最终答案。默认输出为流式返回，长回答会逐步显示，便于观察生成速度和稳定性。
Ollama提供REST API，默认地址为:11434。文本生成接口为/api/generate，核心参数包括model、prompt、stream和options；聊天接口为/api/chat，接收messages数组，更适合多轮对话。OpenAI兼容接口位于:11434/v1，api_key可填写任意非空字符串，Python中可使用openai SDK，将base_url设置为:11434/v1，model设置为deepseek-r1:7b。生产或教学平台调用时需设置合理超时、重试和并发限制，避免单个长请求占满显存。对于批量评测，可关闭流式输出，统一收集JSON结果并统计token吞吐。
客户端集成能显著降低使用门槛。Open WebUI可连接本地Ollama，提供类似ChatGPT的界面，适合课堂演示和多用户管理；Cherry Studio、Chatbox、AnythingLLM也支持Ollama后端。开发框架方面，LangChain提供ChatOllama封装，LlamaIndex提供Ollama LLM接口，Dify可在模型供应商中配置Ollama。若构建本地知识库，可先拉取nomic-embed-text作为嵌入模型，再结合Chroma或Qdrant完成向量检索，把课件、论文和手册切分为500到1000 token的片段，并保留100 token左右重叠。通过LiteLLM等网关还能统一管理多个Ollama实例，为不同班级或项目分配模型和配额。
4. 教学场景下的提示词设计与性能优化
AI指导老师需要把Ollama与DeepSeek转化为可讲授、可练习、可评估的课程内容。提示词设计应明确角色、目标、输入、约束和输出格式，例如要求模型扮演代码审查员，对给定函数指出安全、性能和可读性问题，并按严重程度排序。对DeepSeek-R1，官方建议避免复杂system prompt，把关键指令放入user消息，数学题可要求逐步推理并将最终答案放在\boxed{}中，代码题可要求先给思路再给代码和测试用例。课堂任务可以覆盖本地知识问答、代码审查、论文摘要、数据标注和智能体工具调用，配合少量示例和评分量表，学员更容易理解提示词对输出质量的影响。
性能优化要围绕显存、上下文和并发展开。显存不足时，优先降低num_ctx、换用更小模型或q4量化；需要常驻服务时可设置OLLAMA_KEEP_ALIVE=5m或-1，减少反复加载开销；并发较高时按显存容量调整OLLAMA_NUM_PARALLEL，避免请求排队导致超时。新版Ollama可尝试开启OLLAMA_FLASH_ATTENTION=1，并通过OLLAMA_KV_CACHE_TYPE=q8_0压缩KV缓存。监控时使用ollama ps观察模型大小和处理器类型，用nvidia-smi查看显存占用，用固定20到50道题的评测集记录首token延迟、生成速度和准确率，再与云端API方案对比成本和隐私收益。
教学落地可设计阶梯实验，从安装Ollama、拉取DeepSeek、命令行推理，到API调用、Open WebUI集成、RAG知识库和LoRA微调。需要说明的是，Ollama本身不负责训练，微调可借助LLaMA-Factory或Unsloth完成LoRA训练，合并导出GGUF后，再通过Modelfile中的FROM ./model.gguf和ollama create载入本地。课程中还应加入模型许可、数据版权、隐私保护和内容安全讨论，让学员在掌握Ollama使用DeepSeek全流程的同时，理解本地部署的边界与责任。
