本地部署Deepseek-r1 大模型
当前deepseek网页版本不稳定,在本地部署自己的deepseek模型
1.首先下载对应版本的Ollama 客户端

2 在命令行中 下载 deepseek-r1的模型参数 我们可以选择 7B 8B 小规模模型部署到本地
ollama run deepseek-r1:8b 下载模型 可以选择其他数量级的模型

下载完后在cmd 界面已经可以实现对话了
3 使用前端界面,下载Chatbox AI 安装

- 安装 Chatbox:
- 访问 Chatbox 官方网站,下载并安装客户端15。
- 在 Chatbox 中配置 Ollama API,选择已安装的 DeepSeek R1 模型,保存设置即可。

4,直接使用web 浏览器网页界面运行deepseek,我们需要用到Docker- docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
下载地址:Docker: Accelerated Container Application Development
docker run:这是 Docker 用于运行容器的基本命令,它会根据指定的镜像创建并启动一个新的容器实例。
-d:表示以守护进程(detached)模式运行容器,即容器会在后台运行,不会占用当前命令行终端的输入输出流,方便执行其他命令。
-p 3000:8080:端口映射参数,将容器内部的 8080 端口映射到主机的 3000 端口。这样,通过访问主机的 3000 端口,就可以访问到容器内运行在 8080 端口上的open-webui应用。
--add-host=host.docker.internal:host-gateway:此参数用于向容器内的/etc/hosts文件中添加一条主机映射记录,将host.docker.internal映射到host-gateway。这在容器需要与主机进行通信时非常有用,特别是在一些特殊网络环境下,使得容器能够通过host.docker.internal这个域名访问到主机。
-v D:devopen-webui:/app/backend/data:这是卷挂载(volume mount)参数,将主机上的D:devopen-webui目录挂载到容器内的/app/backend/data目录。这意味着主机和容器可以共享这个目录下的文件,主机目录中的任何更改都会实时反映到容器内,反之亦然。常用于数据持久化或在容器和主机之间传递数据。
--name open-webui:为运行的容器指定一个名称为open-webui,方便后续对容器进行管理和操作,例如使用docker stop open-webui停止容器,或docker start open-webui启动容器。
--restart always:表示无论容器因为何种原因停止,Docker 都会自动尝试重新启动它,确保容器始终处于运行状态。
ghcr.io/open-webui/open-webui:main:这是容器所使用的镜像名称和标签,指定从 GitHub Container Registry(ghcr.io)上拉取open-webui/open-webui镜像的main版本。如果本地没有该镜像,Docker 会自动从指定的镜像仓库下载
http://localhost:3000/ 就可以使用网页版本的Deepseek R1 模型了- 在浏览器中进入本地网页就可以使用本地 大模型了

更多推荐



所有评论(0)