一、加载模型

  • 点击设置进入模型供应商:

 

  • 目前我使用的很多是api的调用,本地ollama电脑有限制,下面先介绍ollama本地部署,然后再介绍如何接入其他平台的api

1、ollama

  • 进行 ollama接入,点击ollama,然后点击安装,安装完成后会在右上角有一个弹窗,第一次安装可能会有些缓慢,大家耐心等一下:

  • 点击添加模型,输入模型名称、URL、和长度,其他按需更改,下面我以deepseek-r1:14b举例:
#模型名称
deepseek-r1:14b


#基础URL(填入ai工具下载那一篇中在.env中填入的动态地址:host.docker.internal:11434)
http://host.docker.internal:11434


#长度(我一般设置102400,这样在调用时减少超出报错)
102400

  • 然后点击保存或者添加就可以了 

2、api调度

  • 我以阿里云的通义千问举例,想要调用api就要先有api密钥,所以要去阿里云百炼里面去获取一个你自己的api密钥,自此大家想用就可以去注册一个账号,每个新用户应该都会有免费一百万的tokens使用,如果大家想要去使用deepseek官方的模型,也是要去deepseek官网申请一个api密钥哦:
  • 申请完密钥就可以点击设置输入你的api密钥了,输入保存完成,在工作流中就可以随意调用了

  • 提示:有时安装这些插件会重试好几次,大家不要着急,可以多刷新刷新,要是用deepseek官方,也要去下载相应插件哦:


以上就是本章内容,大家还有什么问题可以留言

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐