如何配置单机多卡

[soraka-hu]

我是slurm 提交作业：
#SBATCH --ntasks-per-node=1 # crucial - only 1 task per dist per node!
#SBATCH --cpus-per-task=4 # number of cores per tasks
#SBATCH --gres=gpu:4 # number of gpus
#SBATCH --gpus-per-task=4 # number of gpus

启动命令：
srun --jobid $SLURM_JOBID bash -c '
source /xx/anaconda3/bin/activate &&
conda activate /xx/envs/opencompass &&
cd /xx/opencompass &&
CUDA_VISIBLE_DEVICES=0,1,2,3
python run.py /xx/opencompass/configs/eval_alaya_gsm8k.py
--max-workers-per-gpu 1
--debug
-w outputs/eval_alaya_gsm8k
'