DeepSeek-R1 本地部署:Ollama+ChatBox 安装与避坑

发布时间:2026/10/29 16:34:25
DeepSeek-R1 本地部署:Ollama+ChatBox 安装与避坑

简介:面向希望摆脱在线服务波动、重视隐私与响应速度的DeepSeek使用者,这份课程资源以一份文档形式梳理本地部署的整体方案,适合对大型预训练模型应用感兴趣、具备基础电脑操作经验的自学者与专业人士。压缩包共1个docx文件,大小约1.28MB,内容系统讲解Ollama环境准备、按硬件配置选择1.5B、7B或32B等不同规格模型、ChatBox图形化交互界面接入与配置,并附常见问题说明以及工具和模型获取路径,方便读者按自身设备条件理解本地AI系统的组成与运行方式。已有3698人学习,文档兼顾入门认知与进阶配置,可帮助读者在在线平台不稳定时维持研究和工作连续性,也可作为熟悉本地模型部署流程的参考。需要说明的是,当前内容暂未涵盖联网检索功能。

1. 排队等模型的夜晚,我决定把 DeepSeek 搬回自己机器

去年冬天做一个文本整理的活,白天页面一直转圈,凌晨两点才勉强出了一段结果。那晚我把 DeepSeek 本地部署这套流程从头走了一遍:Ollama 负责把模型跑在本机,ChatBox 负责给一个能正常看对话的窗口,两个安装包加一条命令,前后不到四十分钟。中间当然也翻过车——16GB 内存的机器上直接ollama run deepseek-r1:32b,进度条走完,第一次提问整机假死,风扇狂转十分钟,最后长按电源。换成 7B 之后,同样的机器,回答速度从分钟级掉回秒级。这篇笔记就按「装什么版本、怎么装、装坏了怎么救」的顺序写,适合手上有一台 8GB 内存以上机器、想先把本地推理跑通再谈调优的开发者。

2. 装前先确认配置:deepseek-r1 三档硬件对照与 Ollama 安装包选型

很多人装这套环境失败,并不是命令敲错,而是版本和硬件没有对应上,流程本身并没有问题。模型能不能跑、跑起来是「能用」还是「能用但想砸键盘」,取决于内存、显存和磁盘这三个数字。这一章先把配置算清楚,再动手下载,后面每一步都会轻松很多。

2.1 1.5B、7B、32B 三档配置到底怎么选

模型库页面上一排标签,看着都叫 deepseek-r1,实际差别在参数量。参数量直接决定权重文件多大、加载要吃掉多少内存。下面这张表是我按实际装机经验整理的,内存那一列写的是「加载后还能留出余量」的建议值,不是最低启动门槛:

模型标签参数量建议内存建议显存适合什么机器
deepseek-r1:1.5b1.5B4GB 以上核显可跑老笔记本、虚拟机、先跑通流程
deepseek-r1:7b7B8GB 以上4GB 以上大多数轻薄本独显版、普通台式机
deepseek-r1:32b32B32GB 以上12GB 以上工作站、跑得动但未必跑得快

关键在「以上」两个字。低于建议内存不是启动不了,而是模型加载后系统开始频繁读写硬盘做交换,表现就是回答一个字一个字往外蹦,任务管理器里内存占用接近 100%。我在 8GB 内存的机器上试过 7B,能出结果,但一问一答要等一分多钟,实际不可用。所以选型的判断标准应该是「留 2GB 给系统、剩下的够不够装下模型」,而不该只看「能不能启动」。

原文推荐 7B,理由是大部分电脑配置都能跑起来,这个判断我认同。1.5B 适合先验证链路通不通,回答质量明显偏弱;32B 对普通机器来说更像是「证明我能装」,日常用不上。第一次装,直接上 7B。

2.2 磁盘和目录:模型文件到底落在哪

Ollama 在 Windows 上默认把模型放在用户目录下:

C:\Users\<你的用户名>\.ollama\models

7B 这个标签落盘大概 5GB 上下,1.5B 一两个 GB,32B 直接二十 GB 起步。如果 C 盘只剩十几个 GB,装到一半提示磁盘空间不足,是很常见的翻车点。而且 Ollama 不会自动清理旧标签,你今天试 1.5B、明天试 7B、后天又想试 14B,这些文件会一直叠在同一个目录里。

我一般的做法是:装 Ollama 之前先在 D 盘建好目录,比如D:\ollama\models,装完第一件事就是改环境变量把模型目录指过去,再开始拉模型。顺序很重要——先改目录再下载,比下载完再搬家省事得多。搬家本身也能做,但必须先停掉 Ollama 服务再移动文件,否则文件被占用,移动会失败或者只移了一半,这个坑后面第 5 章会细说。

2.3 安装包和网络准备

需要的东西只有两个安装包:Ollama 的 Windows 安装程序和 ChatBox 的 Windows 安装程序。Ollama 官网首页有 Download 按钮,选 Windows 版本下载;ChatBox 在它的安装页面上选 Windows 版本。两个都不需要注册账号,也不需要登录,装完即用。

真正需要预留时间的是模型下载。7B 有 5GB 左右,家用宽带跑满也要十几分钟,网络抖动一下进度条就卡住。原文里提到如果下载慢或者下载不了,可以直接用资源包里的网盘备份,这是很实际的做法——镜像包里既有两个安装程序,也有现成的模型文件,网络不稳的时候能省掉一半折腾。拉模型之前顺手确认一下磁盘剩余空间,比中途失败再重来舒服。

3. 安装 Ollama 并拉取 deepseek-r1:7b:Windows 下的完整安装步骤

这一步是整个本地部署的基础。Ollama 装好之后是一个常驻后台的服务,模型由它管理,命令行和 ChatBox 都只是连接它。基础没有打牢,后面 ChatBox 怎么配都连不上,所以这一章我会把安装、验证、拉模型、迁移目录四件事按顺序写完。

3.1 安装 Ollama:安装向导里需要注意的两个选项

从官网下载到的安装程序双击运行,向导很简单,一路下一步即可。有两个地方建议留意一下:

第一是安装位置。新版安装向导允许自定义目录,默认装在当前用户目录下(类似C:\Users\<用户名>\AppData\Local\Programs\Ollama)。装在用户目录的好处是不需要管理员权限,卸载也干净;如果你习惯把工具统一放在 D 盘,这里改路径也没问题,但别放在带中文或空格的路径下,少数情况下会影响服务启动。

第二是安装完成后会自动启动。安装程序结束时会拉起一个后台进程,任务栏右下角出现一个羊驼样式的托盘图标,就说明服务已经在跑了。这个图标不是装饰,右键能看到退出和日志入口,后面排查问题全靠它。

装完之后必须重新打开一个命令行窗口。安装程序把 Ollama 加进了 PATH,但已经开着的终端读的是旧环境变量,直接在老窗口里敲ollama会提示「不是内部或外部命令」,这不是装失败,只是没刷新。

3.2 验证安装:三条命令确认服务状态

按Win + R,输入cmd回车,依次执行:

# 1. 确认命令可用、看版本号 ollama -v # 2. 确认后台服务在监听,能列出模型(此时应为空表) ollama list # 3. 看当前已加载到内存的模型(刚装完也是空) ollama ps

三条命令的含义不一样。ollama -v验证的是客户端有没有装好、PATH 有没有生效;ollama list验证的是客户端能不能连上本地服务,它本质上是在请求http://127.0.0.1:11434/api/tags;ollama ps看的是运行态,模型加载后会出现在这里,还带内存占用,是排查性能问题最直接的一条命令。

如果-v有版本号但list报连接失败,问题在服务没起,去托盘图标那里看一眼,或者从开始菜单重新启动 Ollama。这个区分很关键:报错信息长得差不多,但一个是安装问题,一个是服务问题,处理方式完全不同。

3.3 拉取并运行 7B 模型:pull 和 run 的区别

模型库页面上,deepseek-r1 的地址在 Ollama 官方模型库里,页面会列出所有可用标签。命令行里直接跑:

# 拉取并进入交互模式,第一次执行会先下载约 5GB 的权重 ollama run deepseek-r1:7b # 如果只想先下好、不马上对话,用 pull ollama pull deepseek-r1:7b

ollama run是个复合动作:本地没有这个标签就先下载,下载完立刻加载进内存并进入交互界面;ollama pull只负责下载。如果是晚上挂着下载、第二天再试,用pull更合适,不会占着终端。

进入交互界面后,光标变成>>>,直接输入问题回车即可。几个内置指令记一下:/bye退出,/clear清空当前上下文重新开始,/?看帮助。窗口里输出的内容是按 token 逐字冒出来的,这就是本地推理的真实速度,觉得慢不是程序卡了,是硬件到顶了。

想确认模型元信息,用:

# 查看模型的参数量、量化方式、上下文长度等 ollama show deepseek-r1:7b

这条命令输出里的参数规模、量化格式,能帮你判断当前跑的到底是不是你以为的那个版本。标签写错一位,拉下来的可能就是完全不同的东西。

3.4 把模型目录迁出 C 盘:OLLAMA_MODELS 环境变量

如果按 2.2 的建议先建好了目录,这里就是落地动作。先停掉 Ollama 服务(托盘图标右键退出),再执行:

# 设置模型存储目录,setx 会写入用户级环境变量,永久生效 setx OLLAMA_MODELS "D:\ollama\models"

setx写入的是用户环境变量,不是当前会话,所以执行完必须关掉命令行重开,再启动 Ollama 服务。设置生效后新拉的模型都会落到 D 盘。

如果模型已经下在 C 盘了,顺序是:退出 Ollama → 把C:\Users\<用户名>\.ollama\models整个目录剪切到D:\ollama\models→ 设置环境变量 → 重开终端 →ollama list确认模型还在。一定要先退出服务再移动,服务运行时模型文件被占用,剪切会失败或者留下半截文件。这个顺序错了,ollama list里会看到一个损坏的标签,只能ollama rm删掉重拉。

4. 安装 ChatBox 并接入本地模型:自定义提供方参数怎么填

命令行能用,但那个黑底白字的窗口不适合长对话——不能回看历史、不能复制整段、换个话题还得手动清上下文。ChatBox 的作用就是给本地模型套一个正常的聊天界面,它本身不跑模型,只是通过接口去调 Ollama。这一步做对了,日常使用体验能提升一大截。

4.1 下载安装 ChatBox

从 ChatBox 的安装页面选 Windows 版本下载,安装过程没有特殊选项,一路下一步。它支持好几种使用方式,有云端账号模式,也有自带 Key 和本地模型模式。我们这条路线选后者,全程不需要注册。

第一次打开会弹一个引导窗口,里面有几个选项,找「使用自己的 API Key 或本地模型」这一项点进去。如果手快把窗口关了也不用重装,主界面左下角进「设置」,在模型提供方那一栏点「添加自定义提供方」,能回到同一个配置页面。

4.2 添加自定义提供方:三个字段决定连不连得上

配置页要填的核心就三项,其余保持默认即可:

配置项填写内容说明
提供方类型Ollama API不要选 OpenAI 兼容模式,那个走的是另一套接口
API 域名http://localhost:11434不带/v1、不带结尾斜杠、不要写 https
模型名称deepseek-r1:7b必须和ollama list里显示的完全一致

填完点「保存」,然后新建一个对话,在对话框上方或设置里把当前模型切换成刚添加的这个。切好之后随便问一句,比如「你是谁」,能正常返回就说明链路通了。

模型名这一栏最容易出错。它不是一个自由填写的显示名,而是真正发给 Ollama 的标签,多一个空格、少一个冒号都会返回模型不存在的错误。最稳的做法是把ollama list输出里那一列原样复制过去。API 域名同理,11434 是 Ollama 默认端口,路径部分什么都不用加,加了反而连不上。

4.3 会话参数:温度和上下文怎么调

配置里还有几项会话参数,默认值能用,但调一下更合适。DeepSeek-R1 这类带推理链的模型,输出前面会有一段思考过程,温度设太高容易跑偏,我一般压到 0.6 以下,答案更稳。上下文条数(有界面叫「携带的历史消息数」)建议先设小一点,比如 5 到 10 条,因为每一轮对话都要把历史一起塞进模型,条数越多占用内存越大,7B 在 8GB 机器上开太多历史会明显变慢。

第一次测试对话,建议问一个需要两三步推理的问题,而不是只问「你是谁」。因为后者几乎不消耗上下文,测不出真实性能。问一个稍复杂的问题,观察三件事:首字出现要等多久、出字速度稳不稳、回答完内存有没有回落。这三项都正常,才算真的跑通。

提示:这一步装完的版本不具备联网能力,它只能基于训练时学到的知识回答,问实时新闻、今天天气之类的问题会答不上来或者编造。联网检索是另一套配置,不在这次安装范围内。

5. 避坑与排查:Ollama 与 ChatBox 联调的五条血泪经验

这套环境装起来不复杂,但报错信息普遍很含糊,同一个「连接失败」背后可能是五个不同原因。下面五条是我自己遇到过、也帮别人处理过的典型问题,按「现象 → 原因 → 解决」记下来,遇到时直接对号入座。

5.1 现象:拉模型卡在某个百分比不动,或者报 manifest 不存在

原因:两种可能。一是标签写错,比如把deepseek-r1:7b写成deepseek-r1-7b或者漏掉r1,Ollama 会去请求一个不存在的清单;二是网络中断后留下了半截下载记录,重试时校验对不上。

解决:先用ollama list看本地有没有残留的同名标签,有的话ollama rm deepseek-r1:7b删干净再重来。标签一定从模型库页面复制,不要手打。如果是网络问题,用ollama pull单独下,断了重跑会续传,别反复用run触发加载。网络实在不稳,就用资源包里的模型文件,拷到OLLAMA_MODELS目录下再ollama list确认。

5.2 现象:ChatBox 里发消息一直转圈,最后报连接错误或 400

原因:九成是 API 域名填错。常见错误有三种:写成https://localhost:11434、结尾多加了/v1、端口写成 1143 或 11434 之外的数字。少数情况是 Ollama 服务根本没启动。

解决:先在浏览器里访问http://localhost:11434/api/tags,能返回一段 JSON 就说明服务正常,问题在 ChatBox 的配置;打不开就用netstat -ano | findstr :11434看端口有没有在监听。/api/tags是 Ollama 列模型的接口,拿它当连通性探针最直接,比反复重启 ChatBox 有效得多。

5.3 现象:回答能出,但几秒一个字,风扇狂转

原因:模型超出了可用显存或内存,部分层被卸载到 CPU 上跑,或者系统已经开始用硬盘做交换。任务管理器里看内存占用接近满格、磁盘占用长期 100%,基本就是这个情况。

解决:优先降档,从 7B 退回 1.5B 验证是不是硬件不够;能降档就说明配置卡在边界上。同时关掉浏览器多标签、其他占显存的程序。用ollama ps看当前加载的模型占用多少内存,这个数字比猜更靠谱。确实需要 7B 又只有 8GB 内存,就把 ChatBox 的历史消息条数调到 5 条以内,能省一部分上下文开销。

5.4 现象:重装 Ollama 之后,之前下的模型全没了

原因:卸载时勾了清除数据的选项,或者改过OLLAMA_MODELS但重装后环境变量丢了,服务又回到默认的 C 盘目录,看起来就像模型消失。

解决:重装前先把 models 目录整个复制一份到别处,这是最省事的备份。已经丢了的话,先去默认目录确认是不是「换了位置」而不是真删了。另外提醒一句,setx设置完不重开终端是不生效的,很多人以为设了其实没设,模型又下回了 C 盘。

5.5 现象:Ollama 托盘图标在,但命令行连不上,提示端口被占用

原因:上一次的进程没有正常退出,或者别的程序占用了 11434。重复双击安装包启动第二次实例也会这样。

解决:netstat -ano | findstr :11434拿到占用进程的 PID,taskkill /PID <PID> /F结束掉,再从开始菜单重启 Ollama。如果确实需要换端口,设setx OLLAMA_HOST "127.0.0.1:11435",重启服务后 ChatBox 的 API 域名也要同步改成新端口,两边必须一致。

6. 装完怎么验证:三条验证线,缺一条都不算跑通

装完之后很多人只做一个动作——在 ChatBox 里问一句「你好」,看到有回复就认为完事了。这个验证太弱,它只能证明界面能连上,证明不了服务稳定、接口正确、性能达标。我一般走三条线,从底层往上层逐个确认。

第一条线:命令行验证模型本体。打开新终端执行:

# 确认模型已落盘,输出里有 deepseek-r1:7b 这一行 ollama list # 加载并提一个短问题,观察首字延迟和出字速度 ollama run deepseek-r1:7b "用三句话说明什么是本地推理"

这一步绕开了所有界面,直接测模型本身。如果这里就慢得离谱,问题在硬件或模型档位,跟 ChatBox 无关,别在界面上浪费时间。

第二条线:接口验证。用浏览器或命令行访问接口,确认服务对外提供的能力是完整的:

# 列出模型,返回 JSON 里能看到 model 字段 curl http://localhost:11434/api/tags # 直接调生成接口,stream 设为 false 一次性返回完整结果 curl http://localhost:11434/api/generate -d "{\"model\":\"deepseek-r1:7b\",\"prompt\":\"你好\",\"stream\":false}"

第二条命令在 Windows 的 cmd 里引号转义比较麻烦,用 PowerShell 的Invoke-RestMethod更顺手。这一步通过,说明 ChatBox 能拿到的东西,你手动也能拿到,后面界面出问题就可以确定是配置而不是服务。

第三条线:界面验证。在 ChatBox 里连问三轮,看历史能不能正常带上下文、切换会话后模型有没有掉、关掉软件重开还能不能直接对话。三条线都过,这套环境才算真正可用:

验证线检查项不通过的典型原因
命令行list有模型、run能出字模型没下完、档位超出硬件
接口/api/tags返回 JSON服务没起、端口被占
界面多轮对话、重启后仍可用API 域名或模型名填错

最后说个习惯。那次 32B 把机器拖死之后,我每次装完这套环境,都会先在命令行跑一遍短问题、记下首字延迟,再去配界面。有了这个基线,后面觉得「今天怎么变慢了」,一比就知道是模型换了、内存被别的程序吃了,还是纯粹心理作用。装环境这件事,能复现比能跑通更重要。希望帮到你。

本文还有配套的精品资源,点击获取