权限配置：被忽视的“第一公里”

很多刚接触 AMD Instinct GPU 的开发者，最容易在环境搭建的起步阶段就被劝退。大家往往急于安装深度学习框架，却忽略了操作系统层面最基础的权限配置，导致后续驱动虽然安装成功，却无法调用硬件资源。在 DevCloud 上创建好 Ubuntu 22.04 LTS 实例并登录后，切记不要直接运行安装脚本。ROCm 驱动的运行强依赖于特定的设备节点访问权，而默认情况下，普通用户是没有这些权限的。

必须执行以下命令，将当前用户加入 video 和 render 用户组：

sudo usermod -aG video,render $USER

这一步看似简单，却是 80% 初学者遇到“驱动装好了但显卡不识别”诡异问题的根源。执行完该命令后，务必重启系统（sudo reboot），否则新的组权限不会在当前会话中生效。很多开发者因为省略了重启步骤，导致后续所有验证命令都报错，从而误以为是驱动安装失败。重启后，可以通过 groups $USER 确认自己是否已在这两个组中，这是确保底层驱动能正常与硬件对话的基石。

驱动验证与架构代码确认

环境底座打好后，接下来是安装 ROCm 7.x 驱动。建议直接添加 AMD 官方软件源进行安装，避免使用第三方打包版本，以防内核模块不匹配。安装完成并不意味着结束，验证环节才是确保后续编译不报错的关键。很多开发者跳过这一步直接装 PyTorch，结果在运行时遇到"illegal instruction"错误才回头查驱动，浪费了大量时间。

首先，运行 rocm-smi 命令。如果终端能清晰列出 GPU 的温度、功耗、显存使用率以及频率策略，说明内核态驱动工作正常。如果该命令无输出或报错，请立刻检查 /dev/kfd 和 /dev/dri 设备节点是否存在，这通常意味着权限配置仍有遗漏。

紧接着，执行 rocminfo 获取详细的硬件架构信息。你需要重点关注输出中的 Name 字段，例如 gfx90a 或 gfx942 等架构代码。请务必记下这个代码，它在下一步编译 PyTorch 时是必填项。如果系统识别到的架构代码与你预期的 Instinct 型号不符，说明驱动层仍有问题，切勿强行继续。此外，尝试用 hipcc 编译一个简单的 Hello World HIP 程序，如果能成功输出且无链接错误，才代表你的开发环境真正就绪。这一步看似繁琐，却能提前规避绝大多数因架构不匹配导致的运行时崩溃。

源码编译的关键环境变量

虽然 PyTorch 提供了预编译的 ROCm 版本，但在生产环境或追求极致性能时，源码编译往往是必经之路，尤其是为了适配最新的算子优化。这里有一个极易踩坑的核心点：环境变量设置。

在激活 Conda 虚拟环境后，编译 PyTorch 前必须导出架构变量：

export PYTORCH_ROCM_ARCH="gfx90a"  # 替换为你刚才 rocminfo 查到的实际代码

如果忽略这一步，或者指定的代码与实际硬件不符，编译出的二进制文件将无法在当前硬件上运行，报错时往往没有任何友好提示，直接崩溃。同时，建议使用 GCC 11 或 Clang 15 作为编译器，版本过高或过低都可能引发链接错误。安装构建依赖（如 ninja, wheel）后，可以使用 MAX_JOBS=$(nproc) pip install . 加速编译过程。

PyTorch 安装完毕后，用 python -c "import torch; print(torch.cuda.is_available())" 快速验证。在 ROCm 环境下，PyTorch 通常兼容此接口，若返回 True，则说明后端识别成功。随后是 vLLM 的安装，它对 Triton 编译器有强依赖，必须确保安装的 Triton 版本与当前 PyTorch ROCm 后端严格匹配。在执行 pip install vllm 之前，需显式导出 HIP_PATH 指向 ROCm 安装目录（通常为 /opt/rocm），并设置 MAX_JOBS 利用多核 CPU 加速构建：

export HIP_PATH=/opt/rocm
export MAX_JOBS=8
pip install vllm --no-build-isolation

加上 --no-build-isolation 参数可以减少环境隔离带来的依赖冲突。编译完成后，再次确认环境无误，即可进入服务启动阶段。

避坑总结与下一步

回顾整个流程，从用户组权限的配置到架构代码的精准提取，每一个环节都环环相扣。特别是在 DevCloud 这种云端环境中，基础环境的纯净度和权限的准确性直接决定了上层应用的稳定性。通过严格执行 usermod 加组重启、rocm-smi 状态确认以及 PYTORCH_ROCM_ARCH 的显式指定，我们可以避开绝大多数基础环境报错。

当看到 Uvicorn running on... 的日志输出，并且能够通过 API 顺利调用模型生成文本时，就意味着你已经成功在 AMD Instinct GPU 上跑通了 vLLM 推理全流程。这套最小可行产品（MVP）路径不仅适用于本地测试，也为后续探索多卡并行、量化优化等高级特性打下了坚实基础。接下来的工作中，你可以基于这套稳定的栈，进一步调整显存利用率参数或尝试更大的模型规模。

200小时GPU算力已就位，快来领取：https://marketing.csdn.net/questions/Q2604140858304426315?utm_source=AIpaper