背景提要

本文不涉及AI大模型的神经网络算法，只需要像下载程序那样就可以实现AI大模型的本地部署，在自己的电脑上生成对应的AI配置，以Windows系统为例。

内容涉及Ollama的超快下载、Chatbox简单可视化工具及模型文件分析。

1.后端配置：Ollama下载模型文件

对于一般的开源大模型文件，直接下载运行是运行不了的。那么，我们就需要一个特定的程序帮我们运行这个文件，实现AI的普遍功能。Ollama就是一个非常简单易行的程序。直接搜索Ollama（Ollama），进入官网页面：

点击Download，选择Windows（默认）下载就可以了。但是别急着下载，下载的时候会发现一个问题：下载速度特别慢，一个文件要下几天。这时我们就需要优化下载路径了！去虾壳 - GitHub下载加速网站 GitHub Proxy加速器

这里下载Ollama会快很多，将

https://github.com/ollama/ollama/releases/download/v0.11.7/OllamaSetup.exe

输入上述网址的搜索栏（注意更改成想要的版本），

点击后面的箭头就可以下载了。

下载后打开安装包，点击Install下载就可以了。然后打开就会进入这个画面：

选用想要的模型，随便输入几个字，第一次会自动下载模型文件，然后就可以正常使用了。值得注意的是，模型文件一般很大，可以在Settings里的Model Location里更改模型存储位置。

同时，在模型的选择上，我们需要了解几点，以上图的 deepseek-r1：8b 为例：

deepseek-r1：AI大模型类型，我们可以根据喜欢的功能选择不同的模型。

8b：可以理解为是版本号，数字越大生成越精准，但是对设备要求更高。

首先，我们要知道我们能跑的都是蒸馏过后的模型。何为蒸馏？就是将一个模型保留精华的部分，对收益不高的部分进行剪枝，实现较低配置能准确实现核心功能的目的。一般来说，官方用的就是最高版本，而对于我们而言，电脑配置好可以用7b或8b，如果是那种过时电脑或轻薄本可以试试1.5b。至此，模型就算简单部署成功了。

2.前端界面进阶：Chatbox可视化

如果觉得Ollama界面过于简单，还可以额外使用另一个软件：Chatbox。直接下载Install Windows(PC) | Chatbox，下载完打开安装包点击个人下载->设置下载路径->安装就可以了。打开软件后，点击使用自己的本地模型：

或者直接去界面左侧Settings里设置，来到下一个界面：

选择Ollama，点击获取添加自己在Ollama里下载的模型就可以了。最后，去主页面创建新的对话就可以实现AI本地部署了。