求助：slurm的一个节点如何运行多个作业

lilf

在一台64核的服务器安装了slurm队列软件，一个作业设置为16核，但是只能运行一个作业，不能运行4个作业。请问该如何设置一下

abin

--mem

scontrol show job ID 查看资源....

Kamistry

确保slurm.conf设置是SelectType=select/cons_tres之类而不是select/linear

wxyhgk

这里用 Gaussian 16 为计算了例子说明:

1. #!/bin/bash
   
2. # ====== SLURM 说明 ========
   
3. # 设定作业名称
   
4. #SBATCH --job-name=gaussian_multi
   
5. 
   
6. # 指定作业的输出文件名，%x代表作业名称，%j代表作业ID
   
7. #SBATCH --output=%x_%j.out
   
8. 
   
9. # 请求在一个节点上运行作业
   
10. #SBATCH --nodes=1
    
11. 
    
12. # 请求总共12个核心，根据你的需求调整此数值
    
13. #SBATCH --ntasks=12
    
14. 
    
15. # 指定作业运行的分区，需要根据你的集群情况替换为实际的分区名
    
16. #SBATCH --partition=your_partition_name
    
17. 
    
18. # 请求作业最多运行24小时，超时作业将被SLURM终止
    
19. #SBATCH --time=24:00:00
    
20. 
    
21. # ====== 加载Gaussian模块 =======
    
22. module load gaussian/16
    
23. 
    
24. # ====== 使用srun命令并行运行Gaussian作业 ======
    
25. # 给 1.gjf,2.gjf,3.gjf 分别设定了 3 ,4,5 个核做,他们同时运行
    
26. # --exclusive确保每个作业独占分配给它的核心
    
27. # -n后面跟着的数字指定每个作业使用的核心数
    
28. # '&'允许命令在后台运行，从而实现并行执行
    
29. srun --exclusive -n 3 g16 < 1.gjf > 1.log &
    
30. srun --exclusive -n 4 g16 < 2.gjf > 2.log &
    
31. srun --exclusive -n 5 g16 < 3.gjf > 3.log &
    
32. 
    
33. # wait命令用于等待所有后台作业完成
    
34. wait

复制代码

lilf

wxyhgk 发表于 2024-2-23 16:18
这里用 Gaussian 16 为计算了例子说明:

可以每个作业都单独用脚本分别提交一次的方式去做吗？

lilf

Kamistry 发表于 2024-2-23 15:40
确保slurm.conf设置是SelectType=select/cons_tres之类而不是select/linear

更改了之后，也不管用

wxyhgk

lilf 发表于 2024-2-23 16:47
可以每个作业都单独用脚本分别提交一次的方式去做吗？

没懂你什么意思，能不能举例子说明？具体的例子，不要说那种模糊的

Kamistry

lilf 发表于 2024-2-23 16:47
更改了之后，也不管用

更改之后重启slurmctld和slurmd了吗

lilf

Kamistry 发表于 2024-2-23 18:53
更改之后重启slurmctld和slurmd了吗

已经解决了，改了
SelectType=select/cons_tres
SelectTypeParameters=CR_CPU

lilf

lilf 发表于 2024-2-23 16:47
更改了之后，也不管用

已经解决了，更改这里就行了
SelectType=select/cons_tres
SelectTypeParameters=CR_CPU

Kamistry

lilf 发表于 2024-2-25 16:24
已经解决了，改了
SelectType=select/cons_tres
SelectTypeParameters=CR_CPU

后面这行不是必须的，不如默认的CR_Core，如果要改也应该改成CR_Core_Memory同时分配内存。参见https://slurm.schedmd.com/cons_tres.html。说明我之前说解决方法的时候你没有试

lilf

Kamistry 发表于 2024-2-25 20:19
后面这行不是必须的，不如默认的CR_Core，如果要改也应该改成CR_Core_Memory同时分配内存。参见https://s ...

我把SelectTypeParameters=CR_CPU删掉后，又不可以算多个任务了，应该这个是必须的

九月九

lilf 发表于 2024-2-26 14:24
我把SelectTypeParameters=CR_CPU删掉后，又不可以算多个任务了，应该这个是必须的

分成4个作业提交可能会严重每个作业的计算效率

lilf

九月九 发表于 2024-2-26 14:58
分成4个作业提交可能会严重每个作业的计算效率

机器的核数有64个

Kamistry

lilf 发表于 2024-2-26 14:24
我把SelectTypeParameters=CR_CPU删掉后，又不可以算多个任务了，应该这个是必须的

看看https://slurm.schedmd.com/configurator.easy.html，官网给出的设置一样没有这行。而且我们的双路9654没有加这行，完全可以多个任务一起跑。

刚才找了一台2620v4，核数少的情况一样不需要这一行就能跑多个任务。