Languisher

Slurm 基本命令

3 min

Slurm 是一个具备容错能力和可扩展性的集群管理与作业调度系统，，用于管理计算资源分配、执行作业以及解决资源争用问题。

作为用户，我们需要知道……

如何启动一项作业：srun 和 sbatch

【方法 1】：使用 srun

srun 用于直接启动一个任务，常用于交互式调试。

例如：

srun -p GPU --gres=gpu:1 -c 4 --mem=20G --pty bash

进入分配到的计算节点后，再运行：

echo $CUDA_VISIBLE_DEVICES # 验证只看到了 GPU 1
python your_script.py

应用场景。 适合临时测试、交互式调试、检查环境、GPU、路径是否正确

【方法2】：使用 sbatch

sbatch 用于提交批处理脚本以供稍后执行。任务会进入队列，等资源可用后自动运行。例如：

sbatch example.sh

这个脚本通常包括：

  • 资源申请：CPU、GPU、内存、最长运行时间等
  • 日志配置：标准输出和标准错误保存到哪里
  • 环境初始化：例如加载模块、激活 conda 环境
  • 实际任务命令：例如运行 Python 脚本
  • 可选清理逻辑：例如删除临时文件、关闭后台进程

示例脚本 example.sh 内容：

#!/bin/bash
#SBATCH --job-name=my_job
#SBATCH -p GPU
#SBATCH --gres=gpu:1
#SBATCH -c 20
#SBATCH --mem=50G
#SBATCH --time=48:00:00
#SBATCH --output=slurm-%j.out
#SBATCH --error=slurm-%j.err
#SBATCH --export=ALL

echo "Job started"
echo "Job ID: $SLURM_JOB_ID"
echo "Node: $SLURMD_NODENAME"
echo "Current directory: $(pwd)"
echo "Start time: $(date)"

# source ~/.bashrc
# conda activate your_env_name

python your_script.py

echo "Job finished"
echo "End time: $(date)"

CPU 任务参数：

参数示例是否通常必写作用
-p#SBATCH -p CPU是指定提交到 CPU 分区
-c#SBATCH -c 4是申请 CPU 核数
--mem#SBATCH --mem=20G是申请内存
--time#SBATCH --time=24:00:00是设置最大运行时间
--job-name#SBATCH --job-name=my_job建议设置任务名称
--output#SBATCH --output=slurm-%j.out建议保存标准输出日志
--error#SBATCH --error=slurm-%j.err建议保存标准错误日志
--export#SBATCH --export=ALL可选继承当前环境变量
GPU 任务参数：
参数示例是否通常必写作用
-p#SBATCH -p GPU是指定提交到 GPU 分区
--gres#SBATCH --gres=gpu:1是申请 GPU 资源
-c#SBATCH -c 20是申请 CPU 核数（数据加载、预处理等）
--mem#SBATCH --mem=50G是申请内存
--time#SBATCH --time=48:00:00是设置最大运行时间
--job-name#SBATCH --job-name=my_job建议设置任务名称
--output#SBATCH --output=slurm-%j.out建议保存标准输出日志
--error#SBATCH --error=slurm-%j.err建议保存标准错误日志
--export#SBATCH --export=ALL可选继承当前环境变量

如何查看和管理作业

查看自己的作业：

squeue -u $USER

取消作业：

scancel JOB_ID

查看某个作业的详细信息：

scontrol show job JOB_ID

参考资料

All # Slurm 1