上一期发布了qwen3的本地部署,但是使用起来不美观,也不方便,那么这一期接着讲,使用客户端来链接本地的部署的模型,并构建自己的智能体
1、下载客户端
目前可用的客户端较多,例如Cherry Studio、Chatbox、AnythingLLM
如果具有编程基础也可以使用java、python、javascritp等编程语言来进行连接,做一个自己的客户端
我以Cherry Studio为例
下载链接:https://www.cherry-ai.com/
在这里插入图片描述
2、连接本地模型
安装完软件后,配置本地模型
在这里插入图片描述
进入设置后,可以看到有很多模型提供商,既然是连接本地模型,那么我们选择Ollama
在这里插入图片描述
首先添加API地址,Ollama默认的地址就是http://localhost:11434,在不修改的情况下都是这个地址,然后点击添加
在这里插入图片描述
模型ID填写Ollama中下载的模型名称,在CMD窗口中,输入ollama list即可查看模型名称,将CMD窗口中输出的模型名称放入Cherry Studio的模型ID中,点击保存即可
在这里插入图片描述
弹出添加成功后,启用当前Ollama配置,并且也可以看到我们添加好的模型
在这里插入图片描述
这时来到对话页面也就可以正常聊天了
在这里插入图片描述
点击智能体,这里就有软件自带的大量实用智能体,并且也可以自定义智能体
在这里插入图片描述
这里我添加了一个网页生成的智能体,并且提问:“帮我做一个登录页面,使用原生html+css,要求页面美观大气”
在这里插入图片描述
点击下方的预览后可以看到,当前页面确实达到能用的程度
在这里插入图片描述
这一期我们讲了如何使用Cherry Studio连接本地的qwen模型,并使用Cherry Studio自带的智能体,下一期我们继续使用Cherry Studio来构建自己本地的知识库。

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐