ChatGLM-6B开发者工具链：集成VS Code远程开发+Jupyter调试环境教程

Nate Hillick

349人浏览 · 2026-02-21 00:12:28

Nate Hillick · 2026-02-21 00:12:28 发布

ChatGLM-6B开发者工具链：集成VS Code远程开发+Jupyter调试环境教程

1. 引言：为什么需要完整的开发环境？

当你第一次接触ChatGLM-6B这样的强大对话模型时，可能会遇到这样的困扰：模型已经部署好了，Web界面也能正常使用，但想要进行二次开发、调试代码或者深入理解模型时，却发现自己缺少一个顺手的开发环境。

传统的远程服务器开发往往需要在命令行里反复切换，调试代码就像"盲人摸象"。本教程将为你解决这个问题，通过集成VS Code远程开发和Jupyter调试环境，让你像在本地开发一样顺畅地操作远程服务器。

学完本教程，你将掌握：

如何配置VS Code远程SSH连接到ChatGLM-6B服务器
如何搭建Jupyter Notebook调试环境
如何在本地舒适地开发和调试AI模型
实用的开发技巧和问题解决方法

2. 环境准备与基础配置

2.1 获取服务器连接信息

首先确保你的ChatGLM-6B服务已经正常启动。通过CSDN GPU云平台部署后，你会获得以下关键信息：

SSH连接地址：gpu-xxxxx.ssh.gpu.csdn.net
SSH端口号：通常为22或其他指定端口
登录用户名：一般为root
登录密码或密钥：平台提供的认证信息

验证服务是否正常运行：

supervisorctl status chatglm-service

如果显示RUNNING状态，说明服务已就绪。

2.2 本地开发环境准备

在你的本地机器上需要安装：

VS Code最新版本
VS Code的Remote-SSH扩展
基本的Python开发环境（用于本地代码编辑）

打开VS Code，在扩展商店中搜索并安装"Remote - SSH"扩展，这是远程开发的核心工具。

3. 配置VS Code远程开发环境

3.1 建立SSH远程连接

在VS Code中，按下F1键打开命令面板，输入"Remote-SSH: Connect to Host"，然后选择"Configure SSH Hosts"。

编辑SSH配置文件，添加你的服务器信息：

Host ChatGLM-Dev
  HostName gpu-xxxxx.ssh.gpu.csdn.net
  User root
  Port 22
  IdentityFile ~/.ssh/your_private_key

保存后，在VS Code左下角点击绿色的远程连接图标，选择"Connect to Host" → "ChatGLM-Dev"。

第一次连接时会提示输入密码或确认指纹，完成后VS Code会在新窗口中打开，此时你已经连接到远程服务器了。

3.2 安装必要的VS Code扩展

在远程会话中，需要安装以下扩展来提高开发效率：

Python扩展（用于Python开发支持）
Jupyter扩展（用于Notebook支持）
GitLens（用于代码版本管理）

点击左侧扩展图标，搜索并安装这些扩展。注意这是在远程会话中安装，扩展会在服务器端运行。

3.3 配置远程工作区

连接到服务器后，打开项目目录：

/ChatGLM-Service/

创建VS Code工作区配置文件.vscode/settings.json：

{
  "python.defaultInterpreterPath": "/usr/bin/python3",
  "python.analysis.extraPaths": ["./"],
  "jupyter.notebookFileRoot": "/ChatGLM-Service"
}

这样配置可以确保Python环境和路径设置正确。

4. 搭建Jupyter调试环境

4.1 安装和配置Jupyter

在远程服务器上安装Jupyter Lab：

pip install jupyterlab

创建Jupyter配置文件：

jupyter lab --generate-config

编辑配置文件~/.jupyter/jupyter_lab_config.py：

c.ServerApp.ip = '127.0.0.1'
c.ServerApp.port = 8888
c.ServerApp.allow_roots = True
c.ServerApp.root_dir = '/ChatGLM-Service'
c.ServerApp.token = ''  # 可选，设置访问令牌
c.ServerApp.password = ''  # 可选，设置密码
c.ServerApp.open_browser = False

4.2 启动Jupyter服务

在VS Code的远程终端中启动Jupyter：

jupyter lab --port=8888

建立SSH隧道将Jupyter端口映射到本地：

ssh -L 8888:127.0.0.1:8888 -p <端口号> root@gpu-xxxxx.ssh.gpu.csdn.net

现在可以在本地浏览器打开http://127.0.0.1:8888访问Jupyter Lab。

4.3 创建调试Notebook

在Jupyter中创建新的Notebook，首先测试环境是否正常：

import torch
import transformers
print("PyTorch版本:", torch.__version__)
print("Transformers版本:", transformers.__version__)
print("CUDA可用:", torch.cuda.is_available())
print("GPU数量:", torch.cuda.device_count())

如果一切正常，你应该能看到相关的版本信息和GPU状态。

5. 开发调试实战技巧

5.1 实时代码调试

利用VS Code的调试功能，可以设置断点实时调试ChatGLM服务。

创建调试配置文件.vscode/launch.json：

{
  "version": "0.2.0",
  "configurations": [
    {
      "name": "Python: 调试ChatGLM",
      "type": "python",
      "request": "launch",
      "program": "app.py",
      "console": "integratedTerminal",
      "args": ["--debug"]
    }
  ]
}

在app.py中设置断点，然后按F5开始调试，这样可以逐步执行代码，查看变量状态。

5.2 Jupyter交互式调试

在Jupyter Notebook中，可以交互式地测试模型功能：

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("./model_weights", trust_remote_code=True)
model = AutoModel.from_pretrained("./model_weights", trust_remote_code=True).half().cuda()
model = model.eval()

# 测试单轮对话
response, history = model.chat(tokenizer, "你好", history=[])
print("回复:", response)

# 测试多轮对话
response, history = model.chat(tokenizer, "之前的对话说了什么？", history=history)
print("多轮回复:", response)

5.3 性能监控与优化

在开发过程中，监控GPU使用情况很重要：

import torch
def monitor_gpu():
    print("GPU内存分配:", torch.cuda.memory_allocated() / 1024**3, "GB")
    print("GPU内存缓存:", torch.cuda.memory_reserved() / 1024**3, "GB")
    print("GPU利用率:", torch.cuda.utilization())

在代码关键位置调用这个函数，可以了解内存使用情况。

6. 常见问题与解决方案

6.1 连接问题排查

如果VS Code连接失败，检查以下方面：

SSH配置是否正确，包括主机名、端口、密钥路径
服务器防火墙是否开放相应端口
网络连接是否稳定

6.2 环境依赖问题

遇到包版本冲突时，可以创建虚拟环境：

python -m venv chatglm-env
source chatglm-env/bin/activate
pip install -r requirements.txt

6.3 内存不足处理

如果遇到GPU内存不足，可以尝试：

使用梯度检查点：model.gradient_checkpointing_enable()
减少批量大小
使用混合精度训练

6.4 调试技巧

使用import pdb; pdb.set_trace()在代码中插入断点
利用VS Code的变量监视功能跟踪重要变量
使用Jupyter的%debug魔法命令进行事后调试

7. 进阶开发建议

7.1 代码版本管理

在远程服务器上初始化Git仓库：

cd /ChatGLM-Service
git init
git add .
git commit -m "初始提交"

配置Git忽略文件.gitignore：

__pycache__/
*.pyc
model_weights/  # 大文件不建议放入Git
logs/

7.2 自动化部署脚本

创建部署脚本deploy.sh：

#!/bin/bash
# 停止现有服务
supervisorctl stop chatglm-service

# 更新代码
git pull origin main

# 安装依赖
pip install -r requirements.txt

# 重启服务
supervisorctl start chatglm-service

# 查看状态
supervisorctl status chatglm-service

7.3 监控与日志

配置更详细的日志记录，修改app.py中的日志设置：

import logging
logging.basicConfig(
    level=logging.INFO,
    format='%(asctime)s - %(name)s - %(levelname)s - %(message)s',
    handlers=[
        logging.FileHandler('/var/log/chatglm-debug.log'),
        logging.StreamHandler()
    ]
)