第一步:下载安装Ollama

Ollama:可以理解为是docker,快速安装各种大模型,下载后一键安装

下载地址: https://ollama.com

第二步:执行命令安装deepseek-r1

ollama run deepseek-r1:14b

这里你可以搜索自己想安装的模型,获取不同的命令


第三步:输入问题AI回答

安装完成后,提示输入信息

好了,就这么简单,搭建私服AI完成。

查看本地安装了哪些AI大模型命令

ollama list

第四步:如何对接jeecgboot

修改jeecgboot的yml文件,改成如下配置,这样就对接了本地私有化的AI模型。

jeecg:
  # AI集成
  ai-chat:
    enabled: true
    model: deepseek-r1:14b
    apiKey: ollama
    apiHost: http://localhost:11434
    timeout: 60

提问,发现回复多了个<think>标签,说明对接成功

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐