本地部署Ollama DeepSeek-R1:8B,接入Cherry Studio

本教程为本地部署ollama 环境,运行deepseek-r1:8B 模型,并完成cherry studio接入调用。

实现无网环境也可提问模型

一、ollama 环境安装

通过网盘分享的文件:OllamaSetup.exe
链接: https://pan.baidu.com/s/1aVMyzZP78bNzI2hfU2EykQ?pwd=1234 提取码: 1234

给大家提供了安装包,双击即可安装
在这里插入图片描述

二、运行deepseek-r1:8B模型

1. 启动模型,打开终端、查看命令

在这里插入图片描述
命令介绍如下:

  1. serve:用于启动Ollama服务,启动后可用于后续调用模型等操作,是使用Ollama其他功能的基础前提。例如在需要利用Ollama提供的模型服务时,首先要用该命令开启服务。
  2. create:能从Modelfile创建一个模型。Modelfile可以定义模型的各种属性和配置信息,开发者可以依据这些自定义模型。
  3. show:此命令可查看特定模型的详细信息,如模型的版本、创建时间、配置参数等内容。
  4. run:运行指定的模型,与模型进行交互。输入提示信息,获取模型生成的结果,就像使用聊天机器人那样,是使用模型完成具体任务的关键命令。
  5. pull和push:
    pull 命令可以从模型注册中心拉取模型到本地;
    push 命令则相反,可将本地创建或修改后的模型推送到注册表分享或备份。
  6. list和ps :
    list 用于列出本地所有可用的模型;
    ps 用于列出当前正在运行的模型,可以帮助用户管理和监控模型的运行状态。
  7. rm:删除指定的模型,可以释放磁盘空间,如果模型不再使用或者想要更新等情况,可使用该命令删除。

2. 拉取运行模型

  1. 拉取模型

ollama pull deepseek-r1:8b

  1. 运行模型

ollama run deepseek-r1:8b

  1. 提问测试在这里插入图片描述

三、接入cherry studio

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/93024c9b509e4867a7f6951d65311013.png
在这里插入图片描述
在这里插入图片描述

四、测试

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/0381563ab5d24eeb9344eb8b90bedbe9.png

优缺点

  1. 优点:当然本地部署方便做一些测试、以及无网环境进行提问,比如信号屏蔽后考试,可以使用本地模型进行测试。
  2. 缺点:本地部署的8b模型,提问响应速度较慢,勉强使用

大家电脑配置较高的话,可以拉取更高配置模型,如32B

当然能花钱解决的问题都不是问题,下面我们接入硅基流动,现在注册赠送14元额度,约2000万tokens, 方便我们测试

接入硅基流动

硅基流动,提供了很多优秀的满配模型,登录即送14元额度,方便我们调用
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐