deepseek本地部署流程(解决服务器繁忙以及隐私等问题)实践整理
平时做技术实践时,很多问题不是概念不会,而是细节没串起来。拿“deepseek本地部署流程(解决服务器繁忙以及隐私等问题)”来说,它看着像小点,放到项目里常会牵出环境、配置、兼容性和维护成本。下面按实际使用顺序,把思路、关键写法和容易踩坑的地方讲清楚,方便你直接对照操作。
前文
由于官网deepseek老是出问题
所以我决定本地部署deepseek
很轻松,不需有什么特殊技能
正文开始
Ollama
首先到这个ollama的官网
goto-Ollama
然后点击中间这个大大的Download
随后再次点击中间这个大大的Download for Windows
等待下载完成
下载完成
完成后去自己的下载目录文件夹里找下载好的文件,双击打开
点击Install
等待安装完成
安装完成
安装完成后查看任务栏向上小箭头
羊驼图标就是ollama的进程
然后进行下一步(不要关ollama进程)
ChatBoxAI
打开它的官网
goto-ChatBoxAI
然后点击这个免费下载 (for Windows)
下载开始,等待下载完成
下载完成
打开自己下载文件夹
双击打开下载好的文件
下一步
选个安装位置,点浏览
然后就会打开这个
在里面找好自己的目录,点确定
就会跳回这个界面,点安装
等待安装完成
安装完成后,点完成,稍等一会
实际处理时,就会出现这个界面(这就是以后跟deepseek对话的地方),关了它进行下一步骤
DeepSeek-R1
拉取模型需在命令行里操作
同时按下Win+R启动运行命令窗口
输入cmd
回车
出现这个(命令提示符)窗口,然后输入以下命令
ollama --version
然后就会出现如上提示
落到代码里,若是这样的,那就说明你没输对命令,如果反复检查是输对了,那你只能回到Ollama章节把那一章的内容重来一遍了
goto-Ollama
然后再次回到Ollama的官网(不要关闭命令提示符)
点击Models(左上角)
理解这一步时,随后自己选自己的AI,一般就是第一个显示的那个AI-deepseek-r1
点击deepseek-r1
点击下拉框选择适合自己的蒸馏版
选择哪个呢,在Decide章节,自行阅读后选择
选好之后点击上图红框中的copy按钮
回到命令提示符中,点击右键复制内容
好了之后回车
等待拉取模型
模型拉取成功(这里的success表示成功)
随后在命令行里会出现Send a message字样,然后不用管它了
下一步
组装
打开桌面上的ChatBoxAI
点击设置
打开模型提供方下拉框
选择上图红框中这个Ollama API
打开模型下拉框
可以看到这里有我们刚刚拉取的deepseek,选择它
保存
这里也变成自己刚刚拉取的AI了
然后输入一个试试
以后自己打开ChatBoxAI就可以开始对话了
关闭会自己杀死AI进程
Decide
- CPU: 至少 8 核,建议 16 核或以上。
- GPU: 至少 16GB 显存,建议 24GB 或以上(如 NVIDIA RTX 3090、A100 等)。
- 内存: 至少 32GB,建议 64GB 或以上。
- 落到代码里,存储: 至少 100GB SSD,建议 NVMe SSD 以加快加载速度。
- 从实现思路看,小型蒸馏版: 适合低资源环境,显存需求约 8GB,内存需求约 16GB。(1.5b、7b、8b)
- 中型蒸馏版: 显存需求约 16GB,内存需求约 32GB。(14b)
- 大型蒸馏版: 显存需求约 24GB,内存需求约 64GB。(32b)
- 需求设置更高的蒸馏版不建议个人拉取本地部署采用
- 实际设置可以更低,不过可能会降低设置根据设置自己选择即可
- 好了,至此就完成了deepseek的本地部署了
总结
在这个场景下,总的来说,deepseek本地部署这部分内容适合结合实际项目边做边理解。先抓住核心思路,再逐步补上细节和边界处理,最后效果会更稳定,也更容易复用。
-
08.20
《怪物猎人OL》晶岩龙图鉴说明
-
08.20
《炉石传说》暗影崛起中立新卡特殊坐骑商人说明
-
08.20
《荒野行动plus》S-CAR自动步枪属性说明
-
08.20
孤独摇滚樱花动漫免费下载-孤独摇滚樱花动漫资源免费下载入口
-
08.20
《堡垒之夜》SCAR突击步枪使用实用技巧攻略
-
08.20
《怪物猎人OL》青怪鸟图鉴说明
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏