搭建在线量子化学平台 CalcUS

wxyhgk

0. 部分功能预览

• 0.1 集成 Gaussian 16 , ORCA , xtb
  提交各种任务,可视化显示
  
  
  
  可视化设定各种原子基组
  
  
  在线显示优化步骤
  
  
  可视化任务
  
• 0.2 集群管理
  
  

• 0.3 项目自动化分析
  
  

---

本项目来自于 GitHub 项目:点我打开 ,原项目编译会出问题,自己修改了一下,可以正常使用

1. 准备工作
1.1 说明
项目来源于:https://github.com/cyllab/CalcUS

• Ubuntu 20.04
• cpu: 5950x, E5-2675-v3 , Intel(R) Xeon(R) Gold 6161 ,Intel(R) Xeon(R) Platinum 8171M,测试均没问题
• 如果你是 Linux 小白,请务必按照我的所有步骤操作.
  

下载 MobaXterm : 点我下载 , 全能终端工具,集成 ssh , sftp , x11 转发,运维神器!强烈推荐


1.2 Docker 安装
首先更新源

1. sudo apt-get update
   
2. sudo apt upgrade -y

复制代码

然后安装docker

1. sudo apt install docker -y

复制代码

1. sudo apt install docker.io -y

复制代码

1.3 Docker-compose 安装

1. sudo curl -L "https://get.daocloud.io/docker/compose/releases/download/1.27.3/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-composesud
   

复制代码

赋予 docker-compose 可执行权

1. sudo chmod +x /usr/local/bin/docker-compose

复制代码

1.4 设定 Docker 组

1. sudo groupadd docker

复制代码

1. sudo usermod -aG docker $USER

复制代码

1. newgrp docker

复制代码

2. CalcUS 搭建
2.1 准备工作
原项目是有问题的,没法部署,会报错,经过个人修改,下面是我修改过的文件

• 123网盘: https://www.123pan.com/s/U8JrVv-P3LEH 提取码:waxy
• OneDrive: 点我打开
• 天翼云盘: (https://cloud.189.cn/t/FBZRfqAZ7r6r]点我打开（访问码：sft8）
  

下载好之后,将文件移动到你的 home 目录(运行 echo $HOME 就可以看到你的 home 目录路径了)下,举例来说就是

这里的我的 home`目录就是:/home/wxyhgk,将软件移动到 /home/wxyhgk 下面.

2.2 安装
下载后,在目录下解压

1. cd $HOME && tar -xvf calcus.tar.gz

复制代码

解压后会得到 `CalcUS` 文件夹,我们接下来进入 `CalcUS` 文件夹操作

1. cd $HOME/CalcUS && bash start.sh

复制代码

这一步会比较慢,因为得下载各种 docker 镜像,耐心等待即可,下面的 Pulling 表明在 拉取镜像当出现下面的这个 web_1 字眼的时候表明启动成功



最后去浏览器,输入 ip:1234 就可以进去了,这里的 ip 是你机器的ip,也就是你登录 ssh 的 ip.

默认

• 账号: wxyhgk
• 密码: default
  

2.3 配置
上面的操作说明为了让 CalcUS 能跑起来,下面是配置,首先停掉 CalcUS,按 Ctrl + c 键就能停掉了.

.env 文件的配置,进入 CalcUS 目录,删掉 .env 文件

1. cd $HOME/CalcUS&&rm .env

复制代码

然后使用命令

1. python3 generate_env.py

复制代码

新建一个 `.env` 文件,这里是让你创建一个用户,密码是 default

配置好之后重新运行

1. bash start.sh

复制代码

使用这个命令是重新配置 docker 镜像,以前的 docker 容器会被删除.

配置好上面的之后,以后启动的时候,就到 CalcUS 目录下,运行

1. docker-compose start

复制代码

就行了,稍等几分钟,就能在浏览器访问了.
3. 集群配置
这里是一台远程主机的配置,如果你有多台主机,全部按照下面来配置就可以了.
3.1 准备工作
首先在你要远程运行的机器上安装 slurm ,slurm 如何安装? 点我打开


3.2 创建计算目录

1. mkdir $HOME/calcus

复制代码

然后将

• Gaussian 16 包
• orca 安装包
• xtb, crest, xtb4stda, stda 安装包
  

放入到 calcus 目录中,解压.

3.3 制作脚本
下面的脚本均要在 calcus 目录中创建

• gaussian 16 脚本
  新建一个 submit_Gaussian.sh 文件,,填入以下内容
  
  1. #!/bin/bash
     
  2. ##===任务名字====
     
  3. #SBATCH -J 5950x-g16
     
  4. 
     
  5. #===计算节点===
     
  6. #SBATCH -p Ubuntu-5950x
     
  7. 
     
  8. #===总核数和数量设定 ===
     
  9. #SBATCH -N 1
     
  10. #SBATCH -n 8
      
  11. 
      
  12. #===输入和输出文件===
      
  13. #SBATCH --output=g16Job%j.out
      
  14. #SBATCH --error=g16Job%j.err
      
  15. 
      
  16. #===邮件通知===
      
  17. #SBATCH --mail-user=wxyhgk@qq.com
      
  18. #SBATCH --mail-type=ALL
      
  19. 
      
  20. #--------------------分割线----------------------------------
      
  21. #--------------------分割线----------------------------------
      
  22. 
      
  23. #=============== 加载 g16 环境变量 ===========
      
  24. export g16root=/home/wxyhgk/calcus
      
  25. export GAUSS_SCRDIR=/home/wxyhgk/calcus/g16/scratch
      
  26. source /home/wxyhgk/calcus/g16/bsd/g16.profile
      
  27. export PGI_FASTMATH_CPU=sandybridge
      
  28. 
      
  29. #===运行命令===
      
  30. cd $SLURM_SUBMIT_DIR

  复制代码
  上面的脚本你需要将
• 1. `#SBATCH -p Ubuntu-5950x` 中的 Ubuntu-5950x 改成你的
• 2. `#SBATCH --mail-user=wxyhgk@qq.com` 中的 wxyhgk@qq.com 改成你的 qq 邮箱地址
• 3. `#=============== 加载 g16 环境变量 ===========` 后面的内容也需要你修改成你 calcus 目录下的g16 路径
  

• Orca 脚本
• 关于orca的部分,可以看我的教程 [点我打开]
• 新建一个 submit_ORCA.sh 文件,填入以下内容
  
  1. #!/bin/bash
     
  2. #===任务名字===
     
  3. #SBATCH -J 5950x-orca
     
  4. 
     
  5. #=== 调用哪个节点 ===
     
  6. #SBATCH -p Ubuntu-5950x
     
  7. 
     
  8. #=== 节点核和数量设定  ===
     
  9. #SBATCH -n 32                # 总核数 40
     
  10. #SBATCH --ntasks-per-node=32   # 每节点核数
      
  11. 
      
  12. #=== 输入和输出文件 ===
      
  13. #SBATCH --output=orcaJob%j.out
      
  14. #SBATCH --error=orcaJob%j.err
      
  15. 
      
  16. #=== 邮件通知 ===
      
  17. #SBATCH --mail-user=wxyhgk@qq.com
      
  18. #SBATCH --mail-type=ALL
      
  19. 
      
  20. #============= 加载 openmpi ==========================
      
  21. export PATH=$PATH:/home/wxyhgk/calcus/openmpi/bin
      
  22. export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/wxyhgk/calcus/openmpi/lib
      
  23. 
      
  24. #==============加载 orca 环境变量=========================
      
  25. export PATH=$PATH:/home/wxyhgk/calcus/calcus-orca
      
  26. export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/wxyhgk/calcus/calcus-orca
      
  27. EBROOTORCA=/home/wxyhgk/calcus/calcus-orca
      
  28. #--------------------分割线----------------------------------
      
  29. #--------------------分割线----------------------------------
      
  30. 
      
  31. #===运行命令===
      
  32. cd $SLURM_SUBMIT_DIR

  复制代码
  上面的脚本你需要将
• 1. `#SBATCH -p Ubuntu-5950x` 中的 Ubuntu-5950x 改成你的
• 2. `#=== 节点核和数量设定  ===` 需要改成你的
• 3. `#SBATCH --mail-user=wxyhgk@qq.com` 中的 wxyhgk@qq.com 改成你的 qq 邮箱地址
• 4. `#==============加载 orca 环境变量=========================` 修改成你的 calcus 目录下的 orca 路径
• xtb 脚本
  新建一个 submit_xtb.sh 文件,填入以下内容
  
  1. #!/bin/bash
     
  2. ##===任务名字====
     
  3. #SBATCH -J 5950x-g16
     
  4. 
     
  5. #===计算节点===
     
  6. #SBATCH -p Ubuntu-5950x
     
  7. 
     
  8. #===== 计算设置 ====
     
  9. #SBATCH --nodes=1
     
  10. #SBATCH --ntasks=24
      
  11. 
      
  12. #===邮件通知===
      
  13. #SBATCH --mail-user=wxyhgk@qq.com
      
  14. #SBATCH --mail-type=ALL
      
  15. 
      
  16. #===========xtb环境变量部分==============
      
  17. export PATH=$PATH:/home/wxyhgk/calcus/xtb651/bin
      
  18. export XTBPATH=/home/wxyhgk/calcus/xtb651/share/xtb
      
  19. export OMP_NUM_THREADS=16
      
  20. export MKL_NUM_THREADS=16
      
  21. ulimit -s unlimited
      
  22. 
      
  23. #==============提交任务====================
      
  24. cd $SLURM_SUBMIT_DIR

  复制代码
  
  
• 1. `#SBATCH -p Ubuntu-5950x` 中的 Ubuntu-5950x 改成你的
• 2. `#=== 节点核和数量设定  ===` 需要改成你的
• 3. `#SBATCH --mail-user=wxyhgk@qq.com` 中的 wxyhgk@qq.com 改成你的 qq 邮箱地址
• 4. `#===========xtb环境变量部分==============` 修改成你的 calcus 目录下的 xtb 路径
  

3.5 集群远程连接
点击网站右上角的 `My Profile` 按钮

然后找到这个

解释以下每个名词的含义

• Cluster Address 代表你远程服务器ssh的 ip:端口
• Cluster Username 代表你远程服务器的用户名
• Core per Calculation 计算用多少核心
• Menory per Calculation 计算用多少内存
• Key Encryption Password 代表密码
  

配置好之后,点这个 Manage 按钮进入


然后点击 View public key


会得到一串数字复制这个数字,然后保留着,后面就是配置 ssh免密登录 ,网上教程很多,可以搜索 `ssh 免密登录` , 配置好免密登录后,然后点击上面的  Connect to cluster  按钮就可以了


3.6 计算测试
配置好上面所有的东西之后,就可以做计算了.如图所示


更多的可以看官方教程:点我打开
4. 参考教程
4.1 Docker 相关

• https://www.dawnsite.cn/archives/204.html
• https://www.bilibili.com/video/BV1og4y1q7M4/?spm_id_from=333.337.search-card.all.click
  

4.2 CalcUS 相关

• https://github.com/cyllab/CalcUS
• https://calcus.readthedocs.io/en/latest/overview.html
  

sobereva

文中的外链的图我这里显示不出来

wxyhgk

sobereva 发表于 2022-11-11 22:16
文中的外链的图我这里显示不出来

可能我用的国外的图床,我调整一下

ggdh

强啊！ 把建模和计算结合在一起了， MS风格的量化

lonemen

太强啦，膜拜

冰释之川

ggdh 发表于 2022-11-12 21:33
强啊！ 把建模和计算结合在一起了， MS风格的量化

感觉可以卖好多钱啊

冰释之川

第一幅图概览图是真的好喜欢

ABetaCarw

国内不少公司在做类似的计算平台，有第一性的 有量化的 有生信的 也有MD的…… 要是这玩意推广开了 让那些公司情何以堪啊

gog

七八万，我们单位的领导都不同意批准，你说能卖多少许可数量？
Meda，Maps，我都了解过，价格贵了，买的单位和个人 数量少。
眼下这种经济形势，科研经费不容易申请到。

anlancx

这东西计算资源用的谁的

wxyhgk

anlancx 发表于 2022-11-15 09:45
这东西计算资源用的谁的

可以用本地服务器也可以用远程服务器

neocc

楼主
sudo curl -L "https://get.daocloud.io/docker/compose/releases/download/1.27.3/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-composesud

应该是需要再把其改名为：/usr/local/bin/docker-compose 吧?



另外重建账号后一直有" mkdir: cannot create directory ‘ ’: Permission denied" 报错需要怎么处理呢？ 加上了sudo也不行

neocc

在执行

1. sudo apt install docker.io -y

复制代码

命令的时候如果有报错，可以参考一下解决方案：

安装docker 报错：

1. $ sudo apt-get install docker.io

复制代码

下列软件包有未满足的依赖关系：
docker.io : 依赖: containerd (>= 1.2.6-0ubuntu1~)
E: 无法修正错误，因为您要求某些软件包保持现状，就是它们破坏了软件包间的依赖关系。

解决：
# 查看是否安装了 containerd

1. $ dpkg -l containerd*

复制代码

期望状态=未知(u)/安装(i)/删除(r)/清除(p)/保持(h)
| 状态=未安装(n)/已安装(i)/仅存配置(c)/仅解压缩(U)/配置失败(F)/不完全安装(H)/触发器等待(W)/触发器未决(T)
|/ 错误?=(无)/须重装(R) (状态，错误：大写=故障)
||/ 名称                          版本                体系结构            描述
+++-=============================-===================-===================-===============================================================
ii  containerd                    1.5.5-0ubuntu3~18.0 amd64               daemon to control runC
rc  containerd.io                 1.6.6-1             amd64               An open and reliable container runtime

# 如果containerd不存在，则安装

1. sudo apt install containerd

复制代码

# 如果containerd.io不存在，则安装

1. sudo apt-get install containerd.io

复制代码

# 安装成功后再安装 docker.io

1. sudo apt-get install docker.io

复制代码

# 查询版本

1. docker version

复制代码

其他：

# 如果不行，也可以安装 docker-ce

1. sudo apt-get install docker-ce

复制代码

参考
docker.io : 取决于: containerd (>= 1.2.6-0ubuntu1~)

请参考：https://blog.csdn.net/p1279030826/article/details/126185482

wxyhgk

neocc 发表于 2022-11-16 16:47
楼主
sudo curl -L "https://get.daocloud.io/docker/compose/releases/download/1.27.3/docker-compose-$ ...

不知道你是什么系统，我测试的系统都是20.04 几个机器都是没问题的。

neocc

wxyhgk 发表于 2022-11-17 00:36
不知道你是什么系统，我测试的系统都是20.04 几个机器都是没问题的。

谢谢楼主

我用的是ubuntu20.04
没有搞定自建账户，就直接用楼主的账号吧

如果是只有一台机器安装了slurm，工作节点和计算节点都是这一台机器，需要如何设置非root用户下的ssh免密和slurm呢？