一、Pycharm使用ssh连接autodl的云算力

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在本地进行代码更新时，服务器端可以同步：
在这里插入图片描述

二、vscode使用ssh远程连接autodl的云算力使用vllm进行大模型部署

1、ssh连接远程服务器

在这里插入图片描述

2、创建虚拟环境、激活虚拟环境、安装vllm

conda create -n vllm python=12.0 -y
conda env list
source activate vllm
pip install vllm(时间较长)

在这里插入图片描述

3、安装modelscope，选择好要部署的大模型，复制sdk安装代码

pip install modelscope

在这里插入图片描述

在这里插入图片描述

4、在autodl-tmp下创建LLM文件夹，用于后续存储模型，把复制的代码复制到自己创建的download.py文件中，添加cache_dir，保存文件，运行。如下图，安装模型成功。

在这里插入图片描述

5、vllm serve 模型路径：启动模型，可以看到模型在本地的端口号是8000

在这里插入图片描述

6、最后，可以自己编写一个run_test.py的文件，调用该模型进行测试，代码可以使用大模型来帮忙编写。新建一个终端，使用python run 文件名的命令来进行运行。

在这里插入图片描述

# ssh # 服务器 # 运维
Logo
火山引擎 ADG 社区

火山引擎开发者社区是火山引擎打造的AI技术生态平台，聚焦Agent与大模型开发，提供豆包系列模型（图像/视频/视觉）、智能分析与会话工具，并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长，新用户可领50万Tokens权益，助力构建智能应用。

更多推荐

Chess用户界面设计：Tailwind CSS样式系统和组件库

GitHub推荐项目精选中的ch/chess是一个类似chess.com的多人在线象棋平台，它采用现代化的前端技术栈构建，尤其在用户界面设计上通过Tailwind CSS样式系统和组件库实现了优雅且功能丰富的交互体验。本文将深入探讨该项目如何利用Tailwind CSS打造一致的设计语言和高效的组件系统，为象棋爱好者提供沉浸式的游戏界面。## 🎨 Tailwind CSS样式系统：构建统一视

avatar 火山引擎 ADG 社区

终极指南：GPT-Engineer如何通过AI自动发现代码问题并提升质量

GPT-Engineer是一款强大的AI驱动代码工具，它能帮助开发者自动检测潜在代码问题、优化代码质量，让编程效率提升3倍以上。无论是新手还是资深开发者，都能通过这款工具轻松发现代码中的隐藏缺陷，减少调试时间，释放更多精力在创造性工作上。## 一键发现代码问题：GPT-Engineer的AI审查魔力GPT-Engineer的核心能力在于其内置的智能代码分析系统。通过集成Python代码格式

avatar 火山引擎 ADG 社区

SatDump中的纠错编码技术：从RS码到Turbo码的完整实现指南

在卫星数据传输过程中，信号往往会受到各种干扰，导致数据错误。SatDump作为一款通用卫星数据处理软件，集成了多种先进的纠错编码技术，确保从卫星接收到的数据能够准确解码。本文将深入解析SatDump中从Reed-Solomon（RS）码到Turbo码的实现细节，帮助读者理解这些技术如何保障卫星通信的可靠性。## 为什么纠错编码对卫星数据至关重要？卫星与地面站之间的通信链路面临着空间辐射、大

avatar 火山引擎 ADG 社区