一、搭建ollama框架

1. 访问Ollama，点击“Download”，选择Windows版本下载安装包  。

2. 找到下载好的“OllamaSetup.exe”，直接双击，按默认引导步骤点击“Install”安装，程序默认会安装到“C:\Users\用户名\AppData\Local\Programs\Ollama”  。

ollama的安装包会自动添加环境变量到系统path
​
3. 安装完毕，以普通用户身份启动CMD，输入“ollama -v”，若显示版本号信息，意味着部署成功  。

二、利用ollama本地部署大模型

Win+R输入cmd，打开cmd

去ollama官网Ollama，点击左上角的Models，找到自己需要的大模型名称，这里一deepseek为例

搜索选择自己需要的版本

点击进入后，选择适合自己电脑GPU专用内存大小的模型，一般选择小于电脑专用GPU内存可用空间（总内存-已占用内存），以我为例，我可用的内存是8-1.4=6.6GB，我可以选择6GB以下的模型，切记要留点内存，不然电脑会爆显存，模型也运行不了。

我选择deepseek-r1:8b这个模型

直接复制模型旁边的的指令：  ollama run deepseek-r1:8b

输入到cmd中

ollama会自动下载模型，下载完后会自动启动模型，你可以直接跟他对话了

如果需要清除历史对话输入/clear即可

如果需要退出这个大模型输入/bye即可

重新启动只需要输入跟下载时一样的指令 ollama run deepseek-r1:8b 即可

如果需要删除这个大模型输入ollama list这个指令可以列出你下载的大模型，然后输入ollama rm 模型即可，如ollama rm deepseek-r1:8b

更多ollama指令输入ollama help