ollama终端的方式部署参考:ollama本地部署 智谱API Key获取

LM Studio

它是模型的托管平台,可以把模型加载后,作为服务器向外提供服务器,本身也具有简单的对话框可以聊天。
https://lmstudio.ai/
在左下角改为开发者模式:
在这里插入图片描述
右下角改为汉语:
在这里插入图片描述

点击左边栏搜索,进入后搜索DeepDeek,点击下载,下载完后加载模型:
在这里插入图片描述
点击左边栏 “开发者” ,进入后打开Status:Running,也可以在Server Settings中设置是否向外开启服务器,默认只监听本机:
在这里插入图片描述
点击左边栏,“聊天”,这里就可以使用了。
在这里插入图片描述

Cherry Studio

其实在LM Studio中就已经可以聊天使用了,但是Cherry Studio是专门做聊天的界面,这里用它来连接LM Studio这个服务。
https://www.cherry-ai.com
点击右上角设置:
在这里插入图片描述
搜索LM Studio,点击管理,这时候会看到在LM中运行的模型,点击+号,添加。
在这里插入图片描述
API密钥随便填写,然后旁边的检查,会提示连接成功:
在这里插入图片描述
点击左边栏的 默认模型 把三个默认模型都换成连接到的deepseek:
在这里插入图片描述

返回首页,点击话题,开启对话:
在这里插入图片描述

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐