Amazon EC2 宝塔面板深度实践:私有化部署 DeepSeek-R1 模型全流程技术指南

前言

人工智能技术蓬勃发展的当下,DeepSeek V3 与 R1 模型凭借出色的性能表现备受瞩目。亚马逊云科技作为行业领先的云计算服务商,迅速响应技术趋势,为客户提供了 Amazon Bedrock 与 Amazon SageMaker AI 等官方部署途径,以满足不同团队对模型应用的多样化需求。然而,在数据安全与个性化需求日益凸显的今天,许多企业希望将模型部署在私有环境中,实现更灵活的管理与定制。本文将聚焦于一种创新且实用的部署方案在Amazon EC2 实例上,借助宝塔面板完成 DeepSeek-R1 蒸馏模型的私有化部署,助力企业轻松搭建专属的 AI 服务

准备工作

亚马逊云科技注册

亚马逊云科技提供众多免费云产品,其中Amazon EC2 云服务器可以免费体验,访问亚马逊云科技官网

1、亚马逊云科技官网

2、如果没有亚马逊云科技官网账号需要注册一个账号

在这里插入图片描述

3、进入注册页面(使用电子邮件地址进行注册)

  • 进入 创建亚马逊云科技账户页面(如果最近登录过 亚马逊云科技,请选择登录控制台。如果未显示创建新亚马逊云科技账户,请首先选择登录其他账户,然后选择创建新亚马逊云科技账户)

  • 根用户电子邮件地址 中,输入电子邮件地址,编辑亚马逊云科技账户名称,然后选择验证电子邮件地址,该地址会收到一封包含验证码的亚马逊云科技验证电子邮件

在这里插入图片描述

  • 安全验证

在这里插入图片描述

  • 验证电子邮件地址(输入收到的代码,然后选择验证,可能需要几分钟才会收到代码,检查电子邮件和垃圾邮件文件夹中是否有验证码电子邮件)

在这里插入图片描述

4、设置用户信息

  • 创建密码:输入根用户密码和确认根用户密码,然后选择继续
  • 添加您的联系信息:选择个人或企业(个人账户和企业账户具有相同的特性和功能)

在这里插入图片描述

5、添加付款信息( 账单信息页面上,输入付款方式的信息,然后选择验证并添加,必须先添加有效的支付方式才能继续注册)

在这里插入图片描述

6、用户信息验证(选择接收验证码的联系方式、选择电话号码的国家或地区代码)

在这里插入图片描述

7、客户验证与激活账户(选择亚马逊云科技支持服务计划)

在这里插入图片描述

8、完成注册

在这里插入图片描述

Amazon EC2搭建DeepSeek-R1

1、启动 EC2 实例(登陆进入亚马逊云科技账户,搜索框中输入 EC2 并进入 EC2 界面,在右侧导航栏点击实例后,点击启动新实例)

在这里插入图片描述

2、配置名称和操作系统Ubuntu

在这里插入图片描述

3、 DeepSeek-R1:亚马逊云科技启动 t2.xlarge 实例(4 核 16GB 内存,32GB 存储),选择或创建密钥对,创建安全组并开放 22(SSH)、80(可选)、8000(模型服务)端口,完成基础设置后即可部署模型

在这里插入图片描述

4、存储选择 32GiB,启动实例

在这里插入图片描述

5、等待实例启动

在这里插入图片描述

6、宝塔面板部署

  • 连接实例,选择 EC2 Instance Connect 的连接方式

在这里插入图片描述

7、查看IPV4地址复制去xshell连接

在这里插入图片描述

8、安装宝塔面板

apt update && apt upgrade
wget -O install.sh https://download.bt.cn/install/install-ubuntu_6.0.sh && bash install.sh ed8484bec

在这里插入图片描述

  • 安装成功根据提供的外网面板地址用户名和密码登录即可

9、Amazon EC2安全组配置

在这里插入图片描述

  • 入站规则配置宝塔面板端口号

在这里插入图片描述

10、宝塔面板登录

在这里插入图片描述

在这里插入图片描述

11、配置加速 URL

{
  "registry-mirrors": [
    "https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com",
    "https://docker.m.daocloud.io",
    "https://hub-mirror.c.163.com",
    "https://mirror.baidubce.com",
    "https://your_preferred_mirror",
    "https://dockerhub.icu",
    "https://docker.registry.cyou",
    "https://docker-cf.registry.cyou",
    "https://dockercf.jsdelivr.fyi",
    "https://docker.jsdelivr.fyi",
    "https://dockertest.jsdelivr.fyi",
    "https://mirror.aliyuncs.com",
    "https://dockerproxy.com",
    "https://mirror.baidubce.com",
    "https://docker.m.daocloud.io",
    "https://docker.nju.edu.cn",
    "https://docker.mirrors.sjtug.sjtu.edu.cn",
    "https://docker.mirrors.ustc.edu.cn",
    "https://mirror.iscas.ac.cn",
    "https://docker.rainbond.cc"
  ]
}

在这里插入图片描述

12、重启 Docker,Docker- 应用商店安装Ollama

在这里插入图片描述

13、 Docker中配置Ollama 容器

在这里插入图片描述

14、终端界面中输入代码运行DeepSeek-R1 8B 模型

ollama run deepseek-r1:8b

在这里插入图片描述

15、安装 OpenWebUI,获取容器 IP

在这里插入图片描述

16、宝塔面板Docker应用商店安装OpenWebUI

  • 配置中 Ollama 地址处:填入 http://刚刚获取的Ollama容器IP:11434

在这里插入图片描述

17、Amazon EC2配置安全组OpenWebUI 开放 3000 端口

在这里插入图片描述

18、浏览器中输入如下地址访问 OpenWebUI 界面

  • http://EC2实例公共IPv4地址:3000

在这里插入图片描述

19、获取deepseek api key

在这里插入图片描述

20、openwebui配置集成deepseek

在这里插入图片描述

21、交流对话

在这里插入图片描述

在这里插入图片描述

Amazon EC2使用感受

Amazon EC2 亚马逊云科技云端虚拟服务器服务,可以快速、灵活地在云端创建和管理实例,按需获取计算资源,无需购买和维护物理服务器

  • 灵活弹性,降本增效:按需调整实例配置、数量与运行时长,搭配自动扩缩容功能,适配业务流量波动;提供多种付费模式,如按需使用、预留折扣、低价 Spot 实例,有效降低成本
  • 多元适配,可靠安全:丰富实例类型覆盖计算、内存、存储、加速等场景需求;支持多可用区部署与数据持久化存储,容灾能力强;内置安全组与 VPC 网络,实现精细权限管控与网络隔离
  • 便捷配置,快速部署:兼容多操作系统,预配置丰富的亚马逊系统镜像,涵盖开发环境与 AI 框架;通过用户数据功能可自动化完成实例初始化,大幅缩短部署周期

亚马逊云科技提供众多免费云产品,其中Amazon EC2 云服务器可以免费体验,访问亚马逊云科技

总结

本文详细阐述了在 Amazon EC2 上借助宝塔面板私有化部署 DeepSeek-R1 模型的全流程,内容涵盖从 EC2 实例创建、密钥对与安全组配置,到宝塔面板环境搭建、模型下载与 API 服务部署,再到网络安全设置;通过该方案,既能发挥 Amazon EC2 的弹性计算优势,又能利用宝塔面板简化部署流程,帮助企业和开发者实现模型私有化管理,满足数据安全与定制化需求。

友情提示:如果决定不再使用服务的话,记得要在控制台关闭服务,以防超过免费额度产生扣费

2025年6月19-20日,亚马逊云科技中国峰会将在上海举行,展示生成式AI、大数据等前沿技术,加入我们,参与互动研讨会和专家对话,探索最新云计算创新。立即报名,加速您的数字化转型!

Logo

中国智能体开发者社区,聚焦智能体与大模型开发,提供前沿资讯、实用工具链、开源项目及行业案例。通过技术沙龙、开发者大赛等活动,促进经验交流与协作,助力开发者快速构建创新智能应用。

更多推荐