详情

首页手游攻略 DeepSeek本机部署详细步骤(基于Ollama和Docker管理)实用指南

DeepSeek本机部署详细步骤(基于Ollama和Docker管理)实用指南

佚名 2026-08-21 18:50:01

平时做技术实践时,很多问题不是概念不会,而是细节没串起来。拿“DeepSeek本机部署详细步骤(基于Ollama和Docker管理)”来说,它看着像小点,放到项目里常会牵出环境、配置、兼容性和维护成本。下面按实际采用顺序,把思路、关键写法和容易踩坑的地方讲清楚,便于大家直接对照操作。

目录
  • 前言
  • 一、ollama 与 docker 简介
    • (一)ollama
    • (二)docker
  • 二、借助 ollama 和 docker 设置 deepseek-r1 的准备工作
    • (一)硬件需求
    • (二)软件安装
  • 三、设置 deepseek-r1 的详细步骤
    • (一)采用 ollama 拿到 deepseek-r1 模型
    • (二)借助 docker 新建 deepseek-r1 容器
      • 查看模型列表
      • 下载模型命令
      • 注意事项
    • (三)启动和测试 deepseek-r1 服务
      • (四)WebUi的设置
        • 启动ollama容器
    • 四、这种设置方式的优势
      • (一)更快部署
        • (二)环境隔离
          • (三)易于扩展
          • 五、可能遇到的问题及解决方法
            • (一)网络问题
              • (二)资源冲突
              • 总结

                前言

                实际处理时,在人工智能技术日新月异的时代,大语言模型的应用越来越广泛,DeepSeek 作为其中的佼佼者,备受开发者和波波小编的关注。借助在本机部署 DeepSeek,能够更灵活地借助其强大功能。而借助 ollama 和 docker 进行 deepseek - r1 的设置,能为我们带来更高效、便捷的部署体验。

                一、ollama 与 docker 简介

                (一)ollama

                (Ollama)

                在这个场景下,ollama 是一个强大的工具,它为模型的管理和运行提供了便利。它能够简化模型的下载、设置和启动过程,让用户能够更快地将不同的模型集成到自己的工作流程中。比如,在处理多个不同类型的大语言模型时,ollama 能够轻松管理这些模型之间的切换和调用,提高开发效率。

                (二)docker

                实际处理时,docker 则是容器化技术的代表,它能够将应用程序及其依赖项打包成一个独立的容器。在 DeepSeek 部署中,采用 docker 能够确保 deepseek - r1 在不同环境中具有一致的运行状态。无论在开发环境、测试环境还是生产环境,只要安装了 docker,就能够运行相同的 deepseek - r1 容器,避免了因环境差异导致的兼容性问题。

                二、借助 ollama 和 docker 设置 deepseek-r1 的准备工作

                (一)硬件需求

                理解这一步时,同常规的 DeepSeek 部署类似,需一台性能不错的计算机。内存建议 16GB 以上,这样在运行容器和模型时,能够保证系统的流畅性。同时,配备 NVIDIA GPU 会显著提升模型的推理速度,对于处理大规模文本任务很关键。

                (二)软件安装

                • 安装 docker:能够从 docker 官方网站拿到适合你操作系统的安装包,按照官方指引进行安装。在安装完成后,确保 docker 服务正常运行,可借助轻松的命令行测试来验证(sheel中输入docker)。
                • 安装 ollama:根据你采用的操作系统,选择合适的安装方式。比如,在 Linux 系统中,能够借助特定的脚本进行安装。安装完成后,设置好 ollama 的运行环境变量,确保其能够被系统正确识别。

                三、设置 deepseek-r1 的详细步骤

                从实现思路看,能够看出DeepSeek-r1完全模型在各方面优于OpenAI,在某些方面评估甚至强于OpenAI,参数量适合于本地部署办公采用。

                (一)采用 ollama 拿到 deepseek-r1 模型

                落到代码里,借助 ollama 的命令行工具,输入特定的命令来搜索和下载 deepseek - r1 模型。ollama 会自动从官方或指定的源拿到模型文件,同时将其存储在本地的模型库中。

                (二)借助 docker 新建 deepseek-r1 容器

                • 结合项目来看,基于下载好的 deepseek - r1 模型,采用 docker 命令新建一个新的容器。在新建容器时,需指定容器的名称、挂载的目录(以便与本地文件系统进行交互)以及容器运行所需的环境变量。

                查看模型列表

                落到代码里,能够访问 ollama 官方的模型仓库library查看兼容的模型列表,点击浏览某个模型,可看到详细说明,如模型参数、大小、运行命令等信息。

                下载模型命令

                采用ollama pull命令进行下载。比如,若要下载图片中的deepseek - r1 7b 模型,在命令行中输入

                ollama pull deepseek-r1:7b 

                理解这一步时,(若不指定具体版本如 7b 等,默认下载最新版本)。首次采用该命令运行模型时,ollama 也会自动从网上下载模型。

                注意事项

                • 在这个场景下,下载速度可能受网络状况影响,如果网络不稳定,下载模型可能需较长等待时间。

                2. 部分模型对硬件资源有一定要求,如运行较大的模型(像 llama3 - 70b)可能会较慢,甚至出现硬件资源不足无法正常运行的情况,下载前可了解模型对硬件的需求。(主要是系统内存的要求)

                在这个场景下,设置容器的网络设置,确保容器能够与外部进行通信。能够根据实际需求,设置容器的端口映射,使本地应用能够访问到容器内运行的 deepseek - r1 服务。

                (三)启动和测试 deepseek-r1 服务

                • 落到代码里,(docker搭建请参照另一篇文章)完成容器新建后,采用 docker 命令启动 deepseek - r1 容器。容器启动后,ollama 会自动加载 deepseek - r1 模型,同时启动相关的服务进程。
                • 从实现思路看,借助编写轻松的测试脚本,向运行在容器内的 deepseek - r1 服务发送请求,验证模型是否正常工作。比如,能够发送一段文本,请求模型生成回答,检查得到的结果是否符合预期。

                (四)WebUi的设置

                搭建部署Open WebUI有两种方式

                • Docker方式(官网建议)
                • 源代码部署安装方式:(文档 Getting Started | Open WebUI)

                Open WenUI 官网:GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

                docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v D:devopen-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

                此命令启动一个docker容器

                • docker run:这是 Docker 用来运行容器的基本命令,它会根据指定的镜像新建同时启动一个新的容器实例。
                • -d:表示以守护进程(detached)模式运行容器,即容器会在后台运行,不会占用当前命令行终端的输入输出流,便于执行其他命令。
                • -p 3000:8080:端口映射参数,将容器内部的 8080 端口映射到主机的 3000 端口。这样,借助访问主机的 3000 端口,就能够访问到容器内运行在 8080 端口上的open-webui应用。
                • --add-host=host.docker.internal:host-gateway:此参数用来向容器内的/etc/hosts文件中添加一条主机映射记录,将host.docker.internal映射到host-gateway。这在容器需与主机进行通信时很有用,特别是在一些特殊网络环境下,使得容器能够借助host.docker.internal这个域名访问到主机。
                • -v D:devopen-webui:/app/backend/data:这是卷挂载(volume mount)参数,将主机上的D:devopen-webui目录挂载到容器内的/app/backend/data目录。这意味着主机和容器能够共享这个目录下的文件,主机目录中的任何更改都会实时反映到容器内,反之亦然。常用来数据持久化或在容器和主机之间传递数据。
                • --name open-webui:为运行的容器指定一个名称为open-webui,便于后续对容器进行管理和操作,比如采用docker stop open-webui停止容器,或docker start open-webui启动容器。
                • --restart always:表示无论容器因为何种原因停止,Docker 都会自动尝试重新启动它,确保容器始终处于运行状态。
                • ghcr.io/open-webui/open-webui:main:这是容器所采用的镜像名称和标签,指定从 GitHub Container Registry(ghcr.io)上拉取open-webui/open-webui镜像的main版本。如果本地没有该镜像,Docker 会自动从指定的镜像仓库下载。

                启动ollama容器

                1.采用该命令启动CPU版运行本地AI模型

                docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

                2.此命令用来启动GPU版本运行AI模型

                在这个场景下,前提是笔记本已设置NVIDIA的GPU驱动,可在shell中输入nvidia-smi查看详细情况

                docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

                从实现思路看,随后就能够访问docker中给出的open webui的地址启动web界面,选择好模型就能够进行问答对话了,恭喜你拥有了自己的AI小助手!

                四、这种设置方式的优势

                (一)更快部署

                结合项目来看,ollama 和 docker 的结合,大大缩短了 deepseek - r1 的部署时间。借助轻松的命令行操作,即可完成模型的拿到和容器的新建,相比传统的手动设置方式,效率得到了极大提升。

                (二)环境隔离

                结合项目来看,docker 的容器化技术实现了环境的隔离,使得 deepseek - r1 在独立的环境中运行,不会受到本地系统其他软件的干扰。同时,也便于对模型进行版本管理和维护,当需更新或切换模型版本时,只需重新新建或更新容器即可。

                (三)易于扩展

                结合项目来看,在后续的应用里,如果需增加模型的计算资源,或者部署多个 deepseek - r1 实例,能够轻松地借助 docker 的集群管理功能进行扩展。ollama 也能够便于地管理多个模型之间的协同工作,满足不同业务场景的需求。

                五、可能遇到的问题及解决方法

                (一)网络问题

                结合项目来看,在下载模型或容器通信过程里,可能会遇到网络不稳定的情况。解决方法是检查网络连接,尝试更换网络环境或采用代哩服务務器。同时,ollama 和 docker 都提供了相关的网络设置选项,能够根据实际情况进行调整。

                (二)资源冲突

                结合项目来看,本地系统中已经运行了其他占用端口或资源的服务时,可能会与 deepseek - r1 容器产生冲突。能够借助修改容器的端口映射或调整本地服务的设置,来避免资源冲突。

                落到代码里,借助 ollama 和 docker 设置 deepseek - r1 实现 DeepSeek 本机部署,为我们提供了一种高效、便捷且稳定的部署方式。随着人工智能技术的不断发展,这种基于容器化和模型管理工具的部署方法,将在更多的应用场景中发挥重要作用,推动大语言模型技术在本地开发和应用中的普及。

                总结

                到此这篇关于DeepSeek本机部署详细步骤的文章就介绍到这了,更多相关DeepSeek本机部署(Ollama和Docker)内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多兼容脚本之家!

                您可能感兴趣的文章:

                • 基于Ollama本地安装部署DeepSeek教程(图)
                • DeepSeek R1本地化部署 Ollama + Chatbox 如何打造最强 AI 工具
                • 详解DeepSeek如何借助Ollama解决常用本地部署报错问题
                • DeepSeek R1 Ollama本地化部署全攻略
                • SpringBoot设置Ollama实现本地部署DeepSeek

                相关资讯
                点击查看更多
                游戏推荐
                推荐专题
                热门阅读
                推荐下载