[doc] 如何在 AutoDL 上构建 Relax 环境

[Yangruipis]

背景

有同学使用 AutoDL 来进行 relax 开发，但是由于 AutoDL 不支持自定义镜像，需要从头开始在已有环境中构建 Relax 依赖。

基于此需求，Relax 团队提供完整 AutoDL 环境配置指南。

步骤

1. 申请 AutoDL 机器

这里以 5090 做演示，注意镜像尽量和下面保持一致

2. 配置环境

2.1 准备工作

# 开启代理
source /etc/network_turbo

cd /root
git clone https://github.com/redai-infra/Relax.git
cd Relax
mkdir -p /root/Relax/scripts/bootstrap/
cd  /root/Relax/scripts/bootstrap/
wget https://gist.githubusercontent.com/Yangruipis/cab4cd6e7929c04f4a2cfd52ca89589e/raw/autodl.sh

附件脚本位于 https://gist.github.com/Yangruipis/cab4cd6e7929c04f4a2cfd52ca89589e

2.2 安装编译

export RELAX_AUTODL_MAX_JOBS=16
export RELAX_AUTODL_MIN_FREE_GB=15
bash -x scripts/bootstrap/autodl.sh install --with-system-packages

简单验证

bash scripts/bootstrap/autodl.sh verify

预期结果如图所示（warning 可忽略，如有 int4 需求需要额外安装）

验证安装

3.1 冒烟测试

bash scripts/bootstrap/autodl.sh smoke

3.2 后续使用

source /root/.local/share/relax-autodl/env.sh

Q&A

Q: 启动后无法终止

浏览器快捷键没透传进去，新开终端，执行下面命令即可

cho "=== Cleaning up stale processes ==="
pkill -9 sglang 2>/dev/null || true
sleep 3
ray stop --force 2>/dev/null || true
pkill -9 ray 2>/dev/null || true
pkill -9 python 2>/dev/null || true
sleep 3
pkill -9 ray 2>/dev/null || true
pkill -9 python 2>/dev/null || true

Q: 启动后 hang 在初始化阶段

禁用 http proxy 即可。如果是hang在其他地方，可先试用 ray debug 拿到 ip，然后通过 /debug-hang skill 排查。

Q: transformer engine 报错 attention 后端未找到

没有安装 FA 等依赖，暂时只支持 --attention-backend unfused，不支持 flash 和 fused，后续可以进一步完善

[hungryformoney]

按你这个脚本装报错：
改了之后能安装，但是冒烟测试过不了

[Yangruipis]

好像没看到报错信息哈哈

[hungryformoney]

好像没看到报错信息哈哈

不好意思，文本我贴在了 install.sh代码哪里的评论区，这里贴的图片，但应该是网络有问题，没成功