计算化学公社

标题: 疑惑：量子分块算CCSD，固态硬盘写入量特别大，但读取量几乎没有？ [打印本页]

作者
Author: 王尔德 时间: 2023-3-17 15:04
标题: 疑惑：量子分块算CCSD，固态硬盘写入量特别大，但读取量几乎没有？
某师兄用Fortran写的量子分块程序（？）接在Gaussian上算CCSD（？），小白不太懂他具体怎么实现的，但看程序名是这样的。

这条nvme 1t的固态才装上 56 天，期间只一直算他的程序，写入量就到了 1 PB ？？

另外，读取量才 31.2 M ？？如果是缓存，怎么会只写不读呢？

请问这是Gaussian本身计算的特性吗，还是他自己外接的Fortran程序写的有问题呢？

(, 下载次数 Times of downloads: 15)

作者
Author: wzkchem5 时间: 2023-3-17 15:11
把这个分块程序上传上来（最好有源码）

作者
Author: biogon 时间: 2023-3-17 15:27
高斯算CCSD也不可能读这么少，另外这写入量如果是真的，盘也快要报废了

作者
Author: hebrewsnabla 时间: 2023-3-17 15:34
为什么不问问你师兄本人呢……

作者
Author: 风起~ 时间: 2023-3-17 15:48

hebrewsnabla 发表于 2023-3-17 15:34
为什么不问问你师兄本人呢……

我猜师兄毕业了

作者
Author: 王尔德 时间: 2023-3-17 17:28

wzkchem5 发表于 2023-3-17 15:11
把这个分块程序上传上来（最好有源码）

他目录没给我们开权限，我去问问他能不能共享一份；
我题目可能没写清楚，是这个师兄在算，不是我算，我是定期检查各节点状况时偶然发现的；
先谢谢老师！

作者
Author: 王尔德 时间: 2023-3-17 17:30

biogon 发表于 2023-3-17 15:27
高斯算CCSD也不可能读这么少，另外这写入量如果是真的，盘也快要报废了

是的，另一个节点已经报废一条了；其他几个也是 900+T 写入，但读取很少量

作者
Author: 王尔德 时间: 2023-3-17 17:35

hebrewsnabla 发表于 2023-3-17 15:34
为什么不问问你师兄本人呢……

是的，已经毕业很久，独立工作了，但还是在组里机器上算

作者
Author: wjc404 时间: 2023-3-17 18:41
本帖最后由 wjc404 于 2023-3-17 19:02 编辑

有可能是nvme驱动的问题，可以用两个方向的dd命令来测一下看smart报告的读数本身是否正常。

如果读数本身没问题，则有可能是服务器的大内存缓存了Gaussian的rwf文件。如果服务器的可用内存明显多于Gaussian任务的rwf大小（后者可以在输出文件的结尾看到）（或者在Gaussian运行过程中通过free命令看发现虽然buffer/cached增加了大概rwf文件的大小但free那一栏一直都有很多），则基本上是操作系统将Gaussian的rwf缓存到了DRAM里面，这时读取可以完全不通过磁盘，但写入操作到磁盘只是受到了延迟而不是省略。
话说这平均200MB/s的写入，如果只是算能量不太会这么大，是不是涉及了算密度矩阵？

作者
Author: 王尔德 时间: 2023-3-17 19:03
本帖最后由王尔德于 2023-3-17 19:07 编辑

wjc404 发表于 2023-3-17 18:41
有可能是nvme驱动的问题，可以用两个方向的dd命令来测一下看smart报告的读数本身是否正常。

如果读数本 ...

非常感谢老师，应该就是这个原因！
smart读数是对的；
看了rwf文件大小，几乎时时刻刻都在重新生成，加起来有几十g（远小于500g的内存），基本上对的上 buff/cache 的数值，free的数值保持在 400+ g；
确实是高斯同时将rwf文件写入了内存、固态，但读取只读取内存的，导致固态读取量几乎没有。

不知道能不能只缓存到内存里
密度矩阵倒不太清楚，没跟我们介绍过他具体算什么

作者
Author: wjc404 时间: 2023-3-17 19:09
可以的，不过应该要等到所有任务都算完或杀掉后再操作。用Linux的tmpfs(请自行搜索相关操作方法)作为GAUSS_SCRDIR的位置，然后重新启任务。

作者
Author: 王尔德 时间: 2023-3-17 19:12

wjc404 发表于 2023-3-17 19:09
可以的，不过应该要等到所有任务都算完或杀掉后再操作。用Linux的tmpfs(请自行搜索相关操作方法)作为GAUSS_ ...

好的，我去查一下，谢谢老师

作者
Author: niobium 时间: 2023-3-18 10:12
量子分块。。。好高大上的感觉

欢迎光临计算化学公社 (http://bbs.keinsci.com/)