本地部署大模型(ollama模式)
下载完成ollama后,进行运行deepseek模型。案例以deepseek-r1 为模型。在ollama会给出运行模型的命令。分享记录一下本地部署大模型步骤。至此,就可以本地模型进行聊天了。进入官网,下载ollama。
·
分享记录一下本地部署大模型步骤。
大模型应用部署可以选择 ollama 或者 LM Studio。本文介绍ollama本地部署
ollama官网为:https://ollama.com/
进入官网,下载ollama。
ollama是一个模型管理工具和平台,它提供了很多国内外常见的模型,我们可以在其官网上搜索自己需要的模型:
https://ollama.com/search
案例以deepseek-r1 为模型。
在ollama会给出运行模型的命令
下载完成ollama后,进行运行deepseek模型
ollama run deepseek-r1:7b

至此,就可以本地模型进行聊天了。
退出聊天
火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。
更多推荐
所有评论(0)