请问ORCA到底该如何设置合适的核数和内存？

sai77 · 发表于 Post on 2023-7-11 08:57:32

服务器112核，192GB内存，ORCA是5.01版本。
156个原子的体系，构象搜索优化了8个构象，想用ORCA算下单点能，用脚本同时提交了8个任务。
每个任务20核，每个核2000MB，报错；（同时运行5个，内存超了，报错可以理解）
每个任务40核，每个核1000MB，还是报错；（同时运行2个，单核内存不足）
每个任务40核，每个核2000MB，仍然报错。（这个还报错，为啥？）
折腾了一天半，一个任务都没算完，简直无语。
ORCA这内存分配是不是有点太差了？
请问我这体系到底该怎么分配内存？每次提交多任务都要这么反复试错吗？

Deepast · 发表于 Post on 2023-7-11 15:41:09

wzkchem5 发表于 2023-7-11 15:34
那建议检查一下openmpi有没有安装对，以及硬件方面有没有问题（例如如果硬盘有坏扇区，在坏扇区读写也会 ...

我有空再测试看看。
它是直接卡死一点报错都没，更奇怪的是瞎改核数和内存就能跑通了。

wzkchem5 · 发表于 Post on 2023-7-11 15:34:57

Deepast 发表于 2023-7-11 08:31
我用的就是5.0.4的...

那建议检查一下openmpi有没有安装对，以及硬件方面有没有问题（例如如果硬盘有坏扇区，在坏扇区读写也会卡）。如果都没有问题的话，可以在orca论坛上报一下bug。理论上内存不足应该报错退出，要么orca自己报错，要么openmpi报错，至少操作系统也会报错，但是不应该不报错直接卡死

Deepast · 发表于 Post on 2023-7-11 15:31:58

wzkchem5 发表于 2023-7-11 15:29
卡在dipole derivatives可能是orca 5.0.0的bug，在更新的版本里已经修复了，如果你用的不是最新版的话， ...

我用的就是5.0.4的...

wzkchem5 · 发表于 Post on 2023-7-11 15:29:49

Deepast 发表于 2023-7-11 07:25
ORCA的内存分配很迷
最近跑一个150个原子的频率计算，发现相同的设置不同构型可能有的任务就会卡住
比方 ...

卡在dipole derivatives可能是orca 5.0.0的bug，在更新的版本里已经修复了，如果你用的不是最新版的话，可以用orca 5.0.4试试

Deepast · 发表于 Post on 2023-7-11 14:25:23

ORCA的内存分配很迷
最近跑一个150个原子的频率计算，发现相同的设置不同构型可能有的任务就会卡住
比方说有个结构8核每个核20G跑不通，但是20核每个核12G就能跑

也不是说算不动，内存报错啥的，就是会永远卡在
Dipole derivatives
这一步

chrinide · 发表于 Post on 2023-7-11 12:17:14

abin 发表于 2023-7-11 10:33
你想多了. 异想天开.

对于ORCA这种内存控制不是十分理想的应用程序,

大佬，我知道你其实想说的是“鄙人”

abin · 发表于 Post on 2023-7-11 11:50:42

有一个事实要清楚,
ORCA并不严格按照你的要求来使用内存.
比如maxcore 10000, 实际上, 并非严格做到每个核心使用10GB, 16个核心, 也就是每个计算任务160GB内存,
可能会超过这个数据.

如果你的调度器限定严格, 那么超越内存上限意味着out of memory, 会直接干掉你的计算任务的.

同时也取决于调度器的默认设定,
就算只要了16个核心, 160GB内存, 那么节点是你自己独占吗?
有人和你一起共用资源吗?

ORCA的最后错误信息并非真正的错误信息, 看看调度器日志说啥了.

dzdhp · 发表于 Post on 2023-7-11 11:24:08

sai77 发表于 2023-7-11 11:08
输入文件
%maxcore 10000
%pal nprocs 16

http://sobereva.com/542。把多个任务写到一个文件里，sob老师讲过了

sai77 · 发表于 Post on 2023-7-11 11:08:05

本帖最后由 sai77 于 2023-7-11 11:13 编辑

abin 发表于 2023-7-11 10:33
你想多了. 异想天开.

对于ORCA这种内存控制不是十分理想的应用程序,

输入文件
%maxcore 10000
%pal nprocs 16

提交任务，7个同时运行了

5分钟后全体报错Performing Cholesky decomposition & store
ORCA finished by error termination in SCF
.... aborting the run

abin · 发表于 Post on 2023-7-11 10:33:16

sai77 发表于 2023-7-11 10:01
没懂，现在112核全空闲，单个任务15核，一提交不就会7个任务都跑上了吗？

你想多了. 异想天开.

对于ORCA这种内存控制不是十分理想的应用程序,
建议使用slurm并开启cgroup资源限定, 来合理规范资源使用.

网上有很多案列, 可以参考自己配置slurm调度器.

如果懒得折腾, 可以使用逼人提供的傻瓜式一键安装方案, 可以自动给工作站/单机配置slurm调度器, 并完成cgroup等自动配置.

另, 并行CPU个数, 建议从2^n个起步设定. 10个核心, 20个核心, 这都是哪里学的呀?

sai77 · 发表于 Post on 2023-7-11 10:01:20

dzdhp 发表于 2023-7-11 09:48
用不着一个一个提交啊，你可以一次性全部提交上去，一个接着一个算，而不是几个一起跑。

没懂，现在112核全空闲，单个任务15核，一提交不就会7个任务都跑上了吗？

zjxitcc · 发表于 Post on 2023-7-11 10:01:16

sai77 发表于 2023-7-11 09:50
谢谢，学习一下~
估计40*2000的时候报错是因为我同时提交了高斯任务，抢了这边的CPU

抢核跑那没啥可说的，不能甩锅ORCA。诀窍就1条不用问：提高单核内存，减少并行核数。

sai77 · 发表于 Post on 2023-7-11 09:50:19

anson 发表于 2023-7-11 09:13
没有具体的报错信息不太清楚原因，多任务的话最好还是设置绑定CPU吧
通过设置CPU内核绑定降低ORCA同时做多 ...

谢谢，学习一下~
估计40*2000的时候报错是因为我同时提交了高斯任务，抢了这边的CPU

dzdhp · 发表于 Post on 2023-7-11 09:48:40

sai77 发表于 2023-7-11 09:45
就想偷懒让它排队自己算，结果这么折腾
如果再不行只能一个个提交了

用不着一个一个提交啊，你可以一次性全部提交上去，一个接着一个算，而不是几个一起跑。

		自动登录 Automatic login	找回密码 Forget password
密码 Password			注册 Register

[ORCA] 请问ORCA到底该如何设置合适的核数和内存？