Windows Ollama+DeepSeek 安装

Ollama 是一个开源的大型语言模型(LLM)平台,旨在让用户能够轻松地在本地运行、管理和与大型语言模型进行交互。
在这里插入图片描述

前置准备

ollama下载

ollama安装

双击exe安装文件,进入安装引导
在这里插入图片描述
程序默认安装在C盘,后续指定模型可自定义目录(避免将模型文件放在系统盘)
在这里插入图片描述
安装后会弹出
在这里插入图片描述

验证安装是否成功

WIN+R,打卡命令行工具,执行ollama -v命令查看是否输出ollama版本号,显示即可安装成功

ollama -v

在这里插入图片描述

ollama模型下载

打开官网下载根据自己运行服务器配置,下载相应模型(需要迁移ollama安装目录及模型下载目录,看补充…
ollama Model 下载
在这里插入图片描述
点击对应下载的标签版本
在这里插入图片描述
复制对应的下载执行命令,我当前选择的是deepseek-r1:7b模型,所以对应的下载命令如下:

ollama run deepseek-r1:7b

WIN+R打开命令行工具,执行命令即可开始下载模型文件
在这里插入图片描述
下载过程比较慢,请耐心等待。
出现以下界面“send a message”说明模型已安装成功!
在这里插入图片描述

修改ollama、models默认下载路径(补充)

  1. 根据path中的默认路径找到Ollama的安装目录,将Ollama安装目录剪切至自定义目录
  2. 修改用户变量、系统变量中的Path
  3. 新增环境变量 OLLAMA_MODELS,配置模型下载路径:E:\LLM_Model(需要修改为自己实际磁盘路径)
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
    迁移完成ollama安装目录后,记得重启服务
    在这里插入图片描述
Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐