Meta Llama3大模型本地部署指南
·
- 下载 Ollama
ollama下载地址
由于网络问题 下载慢的,可以手动下载:
ollama-linux-amd64.tgz
- 部署
# 解压
tar -xvzf ollama-linux-amd64.tgz
sudo mv ollama /usr/local/bin/
sudo chmod +x /usr/local/bin/ollama
ollama serve
# 下载大模型
ollama run llama2
- 注意点
模型对内存要求较高:不低于7.5 GiB
更多推荐


所有评论(0)