零基础,手把手教你本地部署DeepSeek
## 前言
最近很多小伙伴对AI大模型DeepSeek感兴趣,但担心数据隐私或云服务费用高?别慌!本地部署其实很简单!本文用**最通俗的语言+详细截图**,教你从零完成DeepSeek的本地部署,连命令行小白也能轻松上手!
---
## 一、本地部署前的准备工作
### 1.1 硬件和软件要求
**最低配置**(仅供测试):
- CPU:4核以上(Intel i5或同级)
- 内存:16GB
- 硬盘:50GB可用空间
- 系统:Windows 10/11 或 Ubuntu 20.04+
**推荐配置**(流畅运行):
- GPU:NVIDIA RTX 3060 及以上(显存≥12GB)
- 内存:32GB
- 硬盘:建议SSD,剩余空间≥100GB
### 1.2 环境安装(以Windows为例)
#### 步骤1:安装Python
1. 访问[Python官网](https://www.python.org/downloads/)
2. 下载 **Python 3.8+** 版本(务必勾选 `Add Python to PATH`)
3. 安装完成后,打开CMD输入以下命令验证:
```bash
python --version
# 应显示类似 Python 3.8.10
```
#### 步骤2:安装CUDA(仅GPU用户需做)
1. 打开[NVIDIA控制面板] → [帮助] → [系统信息] → [组件]
- 查看支持的CUDA版本(例如显示 `CUDA 11.3`)
2. 访问[CUDA Toolkit Archive](https://developer.nvidia.com/cuda-toolkit-archive)
3. 下载对应版本的CUDA安装包(如11.3)
4. 安装时选择“自定义安装”,确保勾选`CUDA Development`
---
## 二、一步步部署DeepSeek
### 2.1 下载代码和模型
#### 步骤1:克隆代码库
打开CMD或PowerShell,逐行执行:
```bash
git clone https://github.com/deepseek-ai/deepseek.git
cd deepseek
```
#### 步骤2:下载预训练模型
1. 访问[DeepSeek官网](https://www.deepseek.com/download)(需注册账号)
2. 找到模型下载链接(例如 `deepseek-model-v1.2.pth`)
3. 将模型文件放到项目目录的 `models` 文件夹下(若没有则手动创建)
### 2.2 安装依赖库
在项目目录下执行:
```bash
pip install -r requirements.txt
```
**常见问题**:
- 如果报错 `Could not find a version that satisfies...`,尝试:
```bash
pip install --upgrade pip
pip install torch==1.12.1+cu113 --extra-index-url https://download.pytorch.org/whl/cu113
```
### 2.3 配置文件修改
1. 打开 `config` 文件夹,复制 `example_config.yaml` 并重命名为 `my_config.yaml`
2. 用记事本或VSCode编辑以下关键参数:
```yaml
model:
name: "deepseek-demo"
path: "./models/deepseek-model-v1.2.pth" # 模型实际路径
device: "cuda" # GPU用户填cuda,CPU用户填cpu
server:
port: 5000 # 服务端口号(避免冲突)
```
---
## 三、启动服务并测试
### 3.1 启动服务
在项目根目录执行:
```bash
python serve.py --config ./config/my_config.yaml
```
看到以下输出表示成功:
```
[INFO] 2024-03-01 14:20:00 | Model loaded successfully!
[INFO] 2024-03-01 14:20:02 | Server running on http://localhost:5000
```
### 3.2 测试API接口
#### 方法1:使用curl命令
```bash
curl -X POST http://localhost:5000/api/v1/predict \
-H "Content-Type: application/json" \
-d '{"input": "北京有哪些必去的景点?"}'
```
#### 方法2:用Python脚本测试
创建 `test_api.py`,写入以下代码:
```python
import requests
response = requests.post(
"http://localhost:5000/api/v1/predict",
json={"input": "如何学习Python编程?"}
)
print(response.json())
```
运行后应看到类似输出:
```json
{
"result": "学习Python建议从基础语法开始...",
"status": "success"
}
```
---
## 四、常见问题与解决方案
### Q1:GPU显存不足怎么办?
- 在配置文件中修改 `batch_size: 1`
- 添加以下参数降低精度:
```yaml
model:
precision: "fp16" # 半精度模式
```
### Q2:启动时报错 `No module named 'torch'`
- 重新安装PyTorch(注意CUDA版本匹配):
```bash
pip install torch==1.12.1+cu113 --extra-index-url https://download.pytorch.org/whl/cu113
```
### Q3:如何监控服务状态?
- 查看日志:`tail -f ./logs/server.log`
- 使用内置监控接口:访问 `http://localhost:5000/status`
---
## 五、总结与扩展
本地部署成功后,你还可以:
1. 通过修改 `config.yaml` 调整模型参数(如温度、生成长度)
2. 使用Nginx反向代理实现多实例负载均衡
3. 接入微信机器人或Discord Bot开发智能助手
更多推荐

所有评论(0)