Linux服务器部署Deep Seek+dify,构建agent+工作流
在部署dify时需要确保购买的服务器是否可以安装docker,有些服务器的系统是基于docker搭建的,无法安装docker。
一、安装ollama
1、官网
Ollama 下载:https://ollama.com/download
Ollama 官方主页:https://ollama.com
Ollama 官方 GitHub 源代码仓库:https://github.com/ollama/ollama/
2、Linux安装ollama
Ollama提供了一键安装脚本,可以快速在Linux系统上安装Ollama。安装步骤如下:
打开终端,执行以下命令下载安装脚本:
curl -fsSL https://ollama.com/install.sh | sh
等待安装完成。安装脚本会自动下载所需的组件,并完成Ollama的安装与配置。
安装完成后,可以通过以下命令启动Ollama:
ollama serve
设置开机自启动
sudo systemctl daemon-reload
sudo systemctl enable ollama
启动 Ollama,也可以使用以下命令启动 Ollama:systemd
sudo systemctl start ollama
3、Linux(ubuntu)下载ollama速度慢解决办法
下载ollama_install.sh并保存
在home目录下的或者是工作空间下的某一个地址执行:
curl -fsSL https://ollama.com/install.sh -o ollama_install.sh
目录下面会生成ollama_install.shCopy文件
使用github文件加速替换github下载地址
sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh
对文件中下载链接地址进行替换
增加可执行权限
chmod 777 ollama_install.sh
执行sh下载安装
sh ollama_install.sh
4、ollama开放访问API服务
设置ollama保存模型的路径和监听端口
Sudo vi /etc/systemd/system/ollama.service
在 [Service]下面添加相应的环境变量Environment,包括OLLAMA_MODELS和OLLAMA_HOST
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/snap/bin"
Environment="OLLAMA_HOST=0.0.0.0:11434"
sodu执行下面两个命令使设置生效并重启ollama:
sudo systemctl daemon-reload
sudo systemctl restart ollama
5、deepseek模型下载
Ollama官方模型库:Ollama Search
根据不同模型提供的命令进行安装:
ollama run deepseek-r1:1.5b 1.5b模型
ollama run deepseek-r1:7b 7b模型
ollama run deepseek-r1:8b 8b模型
ollama run deepseek-r1:14b 14b模型
ollama run deepseek-r1:32b 32b模型
二、docker安装
1、使用存储库安装apt
在新主机上首次安装 Docker Engine 之前,需要设置 Docker 存储库。之后,可以安装和更新存储库中的 Docker Apt
设置 Docker 的存储库。
# Add Docker's official GPG key:
sudo apt-get update
sudo apt-get install ca-certificates curl
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc
# Add the repository to Apt sources:
echo \
"deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
$(. /etc/os-release && echo "${UBUNTU_CODENAME:-$VERSION_CODENAME}") stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt-get update
- 安装 Docker 软件包。
安装最新版本:
sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
- 通过运行映像来验证安装是否成功:hello-world
sudo docker run hello-world
三、安装dify
将 Dify 源代码克隆到本地计算机:
# Assuming current latest version is 0.15.3
git clone https://github.com/langgenius/dify.git --branch 0.15.3
启动 Dify
导航到 Dify 源代码中的 Docker 目录
cd dify/docker
复制环境配置文件
cp .env.example .env
启动 Docker 容器
选择适当的命令以根据系统上的 Docker Compose 版本启动容器。
本服务器是 Docker Compose V2,使用以下命令:
sudo docker compose up -d
执行该命令后,可以看到类似于以下内容的输出,其中显示了所有容器的状态和端口映射:

最后,检查是否所有容器都运行成功:
docker compose ps
进入dify网页界面,访问服务器地址/install,注册管理员账号,然后就可以使用了
四、服务器启动服务
启动docker服务
cd dify/docker
sudo docker compose up -d
启动ollama服务
ollama serve
更多推荐



所有评论(0)