Ai大模型本地部署
·
1.ollama下载
ollama.com官网地址,根据电脑下载对应的版本
自动下载到c盘,下载完成以后点击左上角的Models
2.选择大模型
我这边选择的是阿里的千问3
根据自己电脑的配置去选择,我这边简单做个示范选的是qwen3:0.6b点击以后会弹出一个界面
拷贝一下以后打开cmd窗口
3.下载大模型
输入拷贝的执行命令就会下载了我这边是已经下载过了
4.使用大模型
启动以后输入想问的,ai会返回答案
输入/bye就可以退出了
5.apifox使用大模型
找到ollama官网的文档找到api参考
apifox里面是post请求ai模型
1.使用流传输
2.关闭流传输
3.总结
个人根据关闭流看的舒服一点
中国智能体开发者社区，聚焦智能体与大模型开发，提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动，促进经验交流与协作，助力开发者快速构建创新智能应用。
更多推荐
8
0- 0
已为社区贡献1条内容
所有评论(0)