没有sudo权限怎么装verl？我这样成功了-深圳市維司達科技有限公司

没有sudo权限怎么装verl？我这样成功了

在没有sudo权限的服务器上安装像verl这样的复杂AI框架，听起来像是“不可能的任务”。尤其是当你看到官方文档里满屏的docker create、dpkg -i、apt install等需要管理员权限的操作时，很容易想放弃。

但别急——我最近就在一台共享GPU服务器上，完全不用sudo、不碰Docker，成功部署并运行了 verl。整个过程踩了不少坑，但也总结出了一套适用于普通用户权限下的完整安装方案。

本文将手把手带你绕过权限限制，用 Conda + 源码编译的方式，在无sudo环境下完成 verl 的安装与验证。适合科研党、学生、企业内网受限用户参考。

1. 为什么不能用Docker？问题出在哪

官方文档推荐使用 Docker 镜像快速启动：

docker create --runtime=nvidia --gpus all --net=host --shm-size="10g" \ --cap-add=SYS_ADMIN -v .:/workspace/verl --name verl <image:tag>

但在大多数高校或公司共享服务器上，普通用户默认没有访问 Docker daemon 的权限。你会遇到如下错误：

permission denied while trying to connect to the Docker daemon socket at unix:///var/run/docker.sock

这意味着：

你无法创建或管理容器
即使镜像已存在，你也进不去
sudo被禁用 → 无法通过sudo usermod -aG docker $USER解决

所以这条路走不通。我们必须转向本地环境隔离 + 用户级安装的方式。

2. 核心思路：绕开系统依赖，全量用户态安装

既然不能动系统层（no sudo），也不能用容器（no docker），那就只能：

使用Conda创建独立 Python 环境
手动下载并配置必要的 CUDA 相关库（如 cuDNN）
通过源码安装 verl 及其依赖组件
利用--user或-e模式实现免系统写入

2.1 先确认基础环境是否支持

查看 GPU 和 CUDA 版本

nvidia-smi nvcc --version

输出示例：

CUDA Version: 12.1 CUDNN Header: /usr/include/cudnn.h

即使没有 sudo，只要系统已预装 CUDA 和 cuDNN 头文件，我们就可以复用它们。

关键点：只要有/usr/include/cudnn*.h和/usr/lib/x86_64-linux-gnu/libcudnn*存在，说明 cuDNN 已安装，可直接使用。

如果没有？后面我会教你如何手动解压 tar 包并设置路径。

3. 使用 Conda 搭建独立环境（无需sudo）

Conda 是我们在无权限环境中最强大的武器。

3.1 创建专用环境

conda create -n verl python=3.10 conda activate verl

选择 Python 3.10 是因为 verl 和 vLLM 对版本较敏感，3.10 是目前最稳定的兼容版本。

4. 下载 verl 源码并初步安装

4.1 克隆仓库

git clone https://github.com/volcengine/verl.git cd verl

4.2 先安装主包本身（不带依赖）

pip install --no-deps -e .

这一步的作用是：

将当前目录注册为可导入模块（import verl成功）
避免后续脚本执行时报错“找不到 verl”

注意顺序：必须先pip install -e .再运行安装脚本，否则scripts/install_vllm_sglang_mcore.sh会失败！

5. 安装核心依赖：FSDP 方案更轻量、更适合普通人

官方提供了两个分支的依赖安装脚本：

方案	命令	适用场景
Megatron 支持	`bash scripts/install_vllm_sglang_mcore.sh`	训练超大模型（70B+）
FSDP 模式	`USE_MEGATRON=0 bash scripts/install_vllm_sglang_mcore.sh`	显存有限、中小规模训练

我们选后者，因为它：

不依赖 Megatron-LM 编译
更少的底层依赖冲突
更容易在受限环境成功

5.1 执行安装命令

USE_MEGATRON=0 bash scripts/install_vllm_sglang_mcore.sh

这个脚本会自动安装以下关键组件：

vLLM：用于高效推理
SGLang：强化学习中的序列生成接口
FlashAttention：加速注意力计算
Torch Distributed：支持多卡训练

5.2 可能出现的问题及解决方法

❌ 报错：`cudatoolkit not found`

原因：Conda 找不到匹配的 CUDA toolkit。

解决方案：手动指定 channel 并安装：

conda install -c "nvidia/label/cuda-12.1.0" cuda-toolkit

或者如果你的系统 CUDA 是 12.1，可以直接告诉 PyTorch 使用系统 CUDA：

export CUDA_HOME=/usr/local/cuda-12.1 export PATH=$CUDA_HOME/bin:$PATH export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH

然后重新运行安装脚本。

❌ 报错：`cudnn.h not found`

说明虽然系统装了 cuDNN，但头文件路径未被识别。

解法一：确认是否存在

ls /usr/include/cudnn*.h

如果存在，添加 include 路径：

export INCLUDE_PATH=/usr/include:$INCLUDE_PATH export CPLUS_INCLUDE_PATH=/usr/include:$CPLUS_INCLUDE_PATH

解法二：手动下载 cuDNN（无需sudo）

前往 NVIDIA 开发者页面：
cuDNN Download | NVIDIA Developer

选择：

OS: Linux
Architecture: x86_64
Distribution: Tarball

下载完成后解压：

tar -xzf cudnn-linux-x86_64-9.10.2.12_cuda12-archive.tar.gz

得到一个文件夹，比如叫cudnn-linux-x86_64-9.10.2.12_cuda12-archive

将其头文件和库复制到本地环境：

cp cudnn-linux-x86_64-9.10.2.12_cuda12-archive/include/cudnn*.h ~/miniconda3/envs/verl/include/ cp cudnn-linux-x86_64-9.10.2.12_cuda12-archive/lib/libcudnn* ~/miniconda3/envs/verl/lib/

最后设置环境变量：

export CUDNN_INCLUDE_DIR=~/miniconda3/envs/verl/include export CUDNN_LIB_DIR=~/miniconda3/envs/verl/lib

这样 pip 安装时就能找到 cuDNN 了。

6. 验证安装是否成功

回到 verl 根目录，进入 Python 交互环境：

python

依次输入：

import verl print(verl.__version__)

如果输出类似：

0.1.0

恭喜！你已经成功在无 sudo 权限下安装了 verl！

7. 测试一个简单 RL 训练流程（可选）

为了进一步验证功能完整，可以跑一个最小示例。

7.1 准备一个小模型用于测试

建议使用 HuggingFace 上的小型 LLM，例如：

model_name_or_path="facebook/opt-125m"

7.2 编写极简 RLHF 示例

新建test_rl.py：

from verl import DataWorker, Trainer import torch # 模拟数据 data = { "prompt": ["Hello, how are you?", "Tell me a joke."], "response_chosen": ["I'm fine!", "Why don't scientists trust atoms? Because they make up everything!"], "response_rejected": ["Not bad.", "I don't know."] } # 初始化训练器（FSDP模式） trainer = Trainer( model_name_or_path="facebook/opt-125m", algo='ppo', # 使用PPO算法 fsdp=True # 启用FSDP ) # 开始训练 for step in range(10): stats = trainer.step(data) print(f"Step {step}, Loss: {stats['loss']:.4f}")

运行：

python test_rl.py

如果能看到 loss 输出，说明：

模型加载正常
分布式训练启动成功
verl 数据流工作良好

8. 常见问题汇总与避坑指南

问题	原因	解决方案
`No module named 'verl'`	未执行`pip install -e .`	回到根目录执行安装
`cudnn.h not found`	缺失头文件或路径未设	手动复制 cudnn.h 到 conda include
`libcudnn.so not found`	动态库缺失	复制`.so`文件到 conda lib
`RuntimeError: CUDA error`	CUDA 版本不匹配	检查 nvcc 与 PyTorch 是否一致
`ImportError: no module 'vllm'`	脚本未正确安装	重跑`install_vllm_sglang_mcore.sh`

9. 总结：我的无权限安装 checklist

这是我最终成功的操作清单，供你一键对照：

步骤清单

激活 Conda 环境

conda create -n verl python=3.10 conda activate verl

克隆源码

git clone https://github.com/volcengine/verl.git && cd verl

先安装主包
```
pip install --no-deps -e .
```

设置 CUDA 环境变量

export CUDA_HOME=/usr/local/cuda-12.1 export PATH=$CUDA_HOME/bin:$PATH export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH

安装依赖（FSDP 模式）

USE_MEGATRON=0 bash scripts/install_vllm_sglang_mcore.sh

如有必要，手动添加 cuDNN
- 下载 tar 包
- 复制头文件和库到 conda 环境
- 设置CUDNN_INCLUDE_DIR和CUDNN_LIB_DIR
验证安装
```
import verl print(verl.__version__)
```

获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。

没有sudo权限怎么装verl？我这样成功了