Ollama安装部署及修软件和模型位置



一、下载ollama

1.官网下载:

https://ollama.com/

在这里插入图片描述

2.模型查询

在这里插入图片描述

二、安装ollama

在这里插入图片描述

三、修改Ollama安装位置和模型下载位置

1.退出ollama程序

在这里插入图片描述

2.创建存放程序的文件夹和存放模型的文件夹

例:在D盘创建新文件夹Ollama用于存放程序,在E盘创建新文件夹LLM_models用于存放模型。

3.设置环境变量

1).修改程序路径

运行cmd查看环境变量,复制内容

echo %path%

在这里插入图片描述

修改环境变量,将Ollama路径修改成新创建的路径 注意变量值要用双引号包含起来

setx path "变量值"

在这里插入图片描述

2).修改模型路径

新建环境变量OLLAMA_MODELS

setx OLLAMA_MODELS "模型路径"

在这里插入图片描述

四、文件迁移

ollama程序迁移

找到ollama安装位置C:\Users\你的用户名\AppData\Local\Programs\Ollama,将文件夹剪切下来。
在这里插入图片描述

粘贴文件夹到新程序目录
在这里插入图片描述

模型迁移

找到模型安装位置C:\Users\你的用户名.ollama\models,将文件夹里所有内容剪切下来。
在这里插入图片描述
粘贴文件夹到新模型目录
在这里插入图片描述

五、所有步骤完成,验证程序及模型下载

1.程序启动

ollama list
ollama --version

在这里插入图片描述

2.下载模型

进入ollama官网选择模型
在这里插入图片描述
在这里插入图片描述

下载模型

ollama run 模型名

在这里插入图片描述
模型下载若遇到网速特别慢的情况,可以ctrl+c中断再继续下载
在这里插入图片描述
查看模型位置
在这里插入图片描述

在这里插入图片描述

迁移成功

六、开启API远程调用模型

1.配置ollama监听来自所有地址的访问请求

cmd命令下

setx OLLAMA_HOST "0.0.0.0:11434"

2.重启ollama

退出ollama
在这里插入图片描述
cmd启动ollama

ollama list

在这里插入图片描述

3.远程调用

发起请求

curl http://192.168.0.103:11434/api/generate -d '{
  "model": "deepseek-r1:1.5b",
  "prompt": "你是谁",          
  "stream": false
}'

收到回复
在这里插入图片描述

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐