实验需求:ollama软件 chatbox

下载ollama

        https://ollama.com

        ollama支持macOS、Linux、Windows,选择相应的系统,macOS和Windows直接下载,       Linux系统需要执行下面命令:

        curl -fsSL https://ollama.com/install.sh | sh

        Linux的安装方法之前发过一次了 是在Euler(欧拉系统)里面装的,感兴趣的话可以看一下之前的步骤

        

                       双击下载安装

                      注:默认是安装在C盘里面的更改不了位置,时不时就弹出更新,还阻止不了,只能被迫更新

选择模型

        点击Model(模型)

        

        7b命令:ollama run deepseek-r1:7b

        1.5b命令:ollama run deepseek-r1:1.5b

        DeepSeek R1提供多个版本,参数量越大,模型通常越强大,但也需要更多的计算资源。

        比如1.5b代表有15亿个参数。(1b代表10亿参数)

        具体选择选择哪个模型参数,取决于电脑硬件配置提供的算力支撑:GPU显卡显存(至少2G以上) + 物理内存(至少4G以上)+ CPU + 磁盘空间。

        

运行命令,在cmd中

        

测试效果  

        当界面出现success显示安装成功。

        输入你是谁,看到deepseek的回答。

        

设置环境变量

1、打开设置(Windows 11)或控制面板(Windows10),并搜索“环境变量”

2、编辑你的账户环境变量

3、为你的用户账户创建新的变量 OLLAMA_HOST,值为 0.0.0.0;

4、创建新的变量 OLLAMA_ORIGINS,值为 *。

        

DeepSeek+Chatbox客户端

        本地命令使用不太直观,可以选择Chatbox客户端访问,提高可交互性

        Chatbox AI 是一款 AI 客户端应用和智能助手,支持众多先进的 AI 模型和 API,可在 Windows、MacOS、Android、iOS、Linux 和网页版上使用。

        本地使用Ollama部署完成后,可以使用Chatbox进行调用。

        下载并安装:chatbox-1.10.7-Setup.exe

        下载连接:  Install Windows(PC)|Chatbox

选择自己的API Key或本地模型

        

选择 Ollama API

        

选择模型

        

点击显示,选择简体中文,点击保存按钮

        

在聊天窗口输入问题测试

        

到这里,AI部署的就差不多可以使用了

当然还可以让AI学习,用的火狐

安装插件Page Assist,搜索插件后添加至Firefox

        

        

        

        

选择本地搭建的模型,点击配置按钮,设置中文

        

        

测试

        

搭建本地知识库

        

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐