DeepSeek本地部署心得
首先我们得了解deepseek(人工智能模型)不同数据规模能干的事情,以及它需要的硬件资源配置条件,deepseek依赖GPU,这就需要你的显卡有足够大的显存容量。按下Win+R打开运行对话框,输入dxdiag并按回车。本人的笔记本电脑显卡是 RTX4060,显示内存(VRAM)为8G,所以只能选择数据规模为7B的模型。但是实际测试下来,14B的数据规模也能跑, 只不过对话的结果要加载一会儿。
一、前言
首先我们得了解deepseek(人工智能模型)不同数据规模能干的事情,以及它需要的硬件资源配置条件,deepseek依赖GPU,这就需要你的显卡有足够大的显存容量。
查看显存大小方法:
按下Win+R打开运行对话框,输入dxdiag并按回车。
本人的笔记本电脑显卡是 RTX4060,显示内存(VRAM)为8G,所以只能选择数据规模为7B的模型。
但是实际测试下来,14B的数据规模也能跑, 只不过对话的结果要加载一会儿。
二、安装步骤
1、安装程序Ollama。 (网址:https://ollama.com)
接着我们把安装包通过管理员身份运行。
2、点击install部署安装。
安装完毕后,桌面右下角会显示图标。
3、登录网址:https://ollama.com/library/deepseek-r1
选择7B模型
复制7B模型旁边的命令: ollama run deepseek-r1:7b
4、按住“win+R”键,呼出运行窗口,输入命令powershell,进入命令行。
把第3步复制的ollama run deepseek-r1:7b命令复制到命令行中。
完成后出现“Send a message”的字样,说明成功了。此时可以关闭这个窗口。
5、进入系统属性,点击环境变量
新建两个变量:
OLLAMA_HOST : 0.0.0.0
OLLAMA_ORIGINS : *
6、安装 Chatbox-1.9.8-Setup

然后点击设置
按照以下三个参数进行设置:
此时,我们就能使用JUST CHAT模块(也只能用这个)。
三、效果演示
我这里放了一个文件上去,让它简单总结了文件内容,大家可以自行测试。
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)