计算化学公社

标题: 深度学习怎么样 [打印本页]

作者
Author: 笙歌落 时间: 2020-9-25 21:07
标题: 深度学习怎么样
刚才看到有公众号发表了第一届深度势能分子动力学开发研讨会的文章，这个会议好像是西湖大学工学院研究计算机和人工智能的人发起的吧。其中提到了深度学习，想知道这个前景如何?和机器学习，人工神经网络相比，有什么差别吗?

作者
Author: wzkchem5 时间: 2020-9-27 17:52
就是机器学习的一种，具体差别维基搜一下就知道了

作者
Author: 笙歌落 时间: 2020-9-27 18:39

wzkchem5 发表于 2020-9-27 17:52
就是机器学习的一种，具体差别维基搜一下就知道了

好的，谢谢您。

作者
Author: 喵星大佬 时间: 2020-9-27 18:54
也是炼丹的一种，为物理原教旨主义者所鄙视的那种

作者
Author: 喵星大佬 时间: 2020-9-27 20:07
本帖最后由喵星大佬于 2020-9-27 20:08 编辑

笙歌落发表于 2020-9-27 18:39
好的，谢谢您。

从我的理解来说，我可以接受物理模型的近似中引入的误差，同样也接受数学处理中引入的近似和误差，但我不能容忍莫名其妙的拟合参数，哪怕他在某些地方看起来很准，但我不知道他会在哪里出问题也不知道为什么出问题，所以这种东西不可接受。

作者
Author: wxhwbh 时间: 2020-9-27 20:44

喵星大佬发表于 2020-9-27 20:07
从我的理解来说，我可以接受物理模型的近似中引入的误差，同样也接受数学处理中引入的近似和误差，但我不 ...

正好我正在上机器学习课，就看到了这个帖子。
你这个观点很正常，毕竟现成的物理定律都在那里，严格来说精确的解是可以拿到的，只是目前我们的数学没法处理或者需要及其高的计算代价。
但直接说拟合出的东西没有任何意义是很片面的。很多时候我们不需要严格解析得到非常精确的结果，只要能够说明问题就可以了。从这个层面上讲，拟合的结果可能比严格结果更有价值。比如我做动力学，如果每一步都用精确的从头算方法，当然可以拿到非常靠谱的结果，可是计算代价高得吓人，可能我毕业了都拿不到一条轨迹。而机器学习拟合的势能面就能发挥非常大的作用。我们组有人结合了颚维南组的DeePMD模型来拟合势能面计算动力学，能把以前一些算不动的东西算出来且精度很高（比如光谱的峰位）。这些都是很有意义的研究。
机器学习不止是拟合，甚至光是拟合就有很深的学问在里面。不建议根据道听途说的观念判断一个东西的意义，最好是自己详细了解后再具体评价。

作者
Author: 笙歌落 时间: 2020-9-27 21:18

喵星大佬发表于 2020-9-27 20:07
从我的理解来说，我可以接受物理模型的近似中引入的误差，同样也接受数学处理中引入的近似和误差，但我不 ...

害，化学，我觉得就是近似-模糊的科学，万物能用就用，能用物理，发展了物理化学，能用数学，有了数学模型，能用计算机，有了计算机化学，能用人工智能，机器学习，人工神经网络，就有了这个深度学习，计算模型，等等。

作者
Author: 笙歌落 时间: 2020-9-27 21:20

wxhwbh 发表于 2020-9-27 20:44
正好我正在上机器学习课，就看到了这个帖子。
你这个观点很正常，毕竟现成的物理定律都在那里，严格来说 ...

分子光谱的计算化学，这种相关的课题组，您有多少了解？

作者
Author: 笙歌落 时间: 2020-9-27 21:26

喵星大佬发表于 2020-9-27 20:07
从我的理解来说，我可以接受物理模型的近似中引入的误差，同样也接受数学处理中引入的近似和误差，但我不 ...

换句话说，在化学上，只要能说明问题，指明方向，就能拿来用，所以，我觉得化学很包容，物理内部的理论物理学家和实验物理学家现在其实在互相较劲，谁也不服谁，不过现在是实验物理学家有更大的话语权。数学和物理更多的是严谨，以此产生的美感，我高一物理老师有次在课上对我们说，同学们，你们看，物理真美。

作者
Author: wxhwbh 时间: 2020-9-27 21:27

笙歌落发表于 2020-9-27 21:20
分子光谱的计算化学，这种相关的课题组，您有多少了解？

首先光谱有很多种，如电子光谱，红外光谱什么的。其次计算光谱的方式也不一样，比如红外光谱可以用normal mode变换计算，也可以用偶极矩时间倒数的Kubo量子关联函数计算。你问得太宽泛了。

作者
Author: wzkchem5 时间: 2020-9-27 23:05

喵星大佬发表于 2020-9-27 20:07
从我的理解来说，我可以接受物理模型的近似中引入的误差，同样也接受数学处理中引入的近似和误差，但我不 ...

我觉得只要对descriptor以及需要拟合的物理量做预处理，保证拟合出来的模型可以满足所有已知的精确约束条件，就行了。
比如一个物理量f(x)的取值必须在(0,1)内，那么我们与其拟合f(x)，不如拟合cot(pi*f(x))，然后在得到的模型后面加一步取arccot再除以pi的运算，这样就可以保证拟合出来的f(x)也在(0,1)内。

作者
Author: 笙歌落 时间: 2020-9-27 23:55

wxhwbh 发表于 2020-9-27 21:27
首先光谱有很多种，如电子光谱，红外光谱什么的。其次计算光谱的方式也不一样，比如红外光谱可以用normal ...

好的，是我不太懂，感觉电子光谱不错

作者
Author: 喵星大佬 时间: 2020-9-28 05:06
本帖最后由喵星大佬于 2020-9-28 05:09 编辑

wxhwbh 发表于 2020-9-27 20:44
正好我正在上机器学习课，就看到了这个帖子。
你这个观点很正常，毕竟现成的物理定律都在那里，严格来说 ...

用不用是一回事，爽不爽是另一回事，毕竟真香定律一直存在的。

当然现在ML里面鱼龙混杂啥玩意都有，甚至从数据集构建开始就在胡搞的不在少数，一到吹起来就显得非常牛逼，也是很让人不爽的。

作者
Author: 喵星大佬 时间: 2020-9-28 05:16
本帖最后由喵星大佬于 2020-9-28 05:19 编辑

笙歌落发表于 2020-9-27 21:18
害，化学，我觉得就是近似-模糊的科学，万物能用就用，能用物理，发展了物理化学，能用数学，有了数学模 ...

能用和追求是不一样的，无论现在在用什么，对更底层原理的追求不能变。毕竟上帝只规定了物理常数，而怎么仅从这些出发以预言万物，那就自由发挥了。

作者
Author: 笙歌落 时间: 2020-9-28 11:07

喵星大佬发表于 2020-9-28 05:16
能用和追求是不一样的，无论现在在用什么，对更底层原理的追求不能变。毕竟上帝只规定了物理常数，而怎么 ...

我不信上帝

作者
Author: 喵星大佬 时间: 2020-9-28 11:14

笙歌落发表于 2020-9-28 11:07
我不信上帝

这里的上帝指宇宙创造之初，因为在此之前的一切讨论没有意义

作者
Author: 笙歌落 时间: 2020-9-28 11:16

喵星大佬发表于 2020-9-28 11:14
这里的上帝指宇宙创造之初，因为在此之前的一切讨论没有意义

那咱们中国应该是盘古，没有他的存在，的确没有意义

作者
Author: sobereva 时间: 2020-9-28 12:56
神经网络是机器学习的一种形式，深度学习是隐藏层的深度大幅增加的神经网络，是机器学习目前最为复杂的模型。深度学习在一些量化领域已经派上了一定用场，比如TorchANI可以通过深度学习构建ANI形式的神经网络势，用少量的成本训练出模型后，就可以很快速地预测特定坐标下较高精度能量。到时候会在北京科音高级量子化学培训班里专门讲这些。

作者
Author: 笙歌落 时间: 2020-9-28 14:26

sobereva 发表于 2020-9-28 12:56
神经网络是机器学习的一种形式，深度学习是隐藏层的深度大幅增加的神经网络，是机器学习目前最为复杂的模型 ...

sob老师，量化研一的新生，之前没有接触过编程和量化，就是本科学过结构化学，毕业论文用高斯软件算了算，还不是自己选的泛函和基组，这种情况，如果要报科音的培训班，报名哪个层次的较好？

作者
Author: 喵星大佬 时间: 2020-9-28 20:27

笙歌落发表于 2020-9-28 14:26
sob老师，量化研一的新生，之前没有接触过编程和量化，就是本科学过结构化学，毕业论文用高斯软件算了算 ...

初级

作者
Author: 喵星大佬 时间: 2020-9-28 23:44

wxhwbh 发表于 2020-9-27 20:44
正好我正在上机器学习课，就看到了这个帖子。
你这个观点很正常，毕竟现成的物理定律都在那里，严格来说 ...

可能有点理论洁癖吧，哈哈哈，就像当时看到Perdrew在Science上喷Truhlar的时候感觉爽的一笔

作者
Author: 笙歌落 时间: 2020-9-29 12:24

喵星大佬发表于 2020-9-28 20:27
初级

好的，十分感谢，开始攒钱

作者
Author: sobereva 时间: 2020-9-29 15:05

笙歌落发表于 2020-9-28 14:26
sob老师，量化研一的新生，之前没有接触过编程和量化，就是本科学过结构化学，毕业论文用高斯软件算了算 ...

初级

作者
Author: 笙歌落 时间: 2020-9-29 15:36

sobereva 发表于 2020-9-29 15:05
初级

好的，攒钱

作者
Author: wzkchem5 时间: 2020-9-29 18:32
本帖最后由 wzkchem5 于 2020-9-29 18:33 编辑

喵星大佬发表于 2020-9-28 23:44
可能有点理论洁癖吧，哈哈哈，就像当时看到Perdrew在Science上喷Truhlar的时候感觉爽的一笔

哈哈哈
之前看到Head-Gordon测了各种泛函算Ar二聚体的势能曲线，明尼苏达泛函有一大半的势能曲线都到处是小坑

作者
Author: granvia 时间: 2020-9-29 19:44
这是最新深度学习在化学反应预测中的应用：https://www.nature.com/articles/s41467-020-18671-7

作者
Author: 笙歌落 时间: 2020-9-29 20:49

granvia 发表于 2020-9-29 19:44
这是最新深度学习在化学反应预测中的应用：https://www.nature.com/articles/s41467-020-18671-7

好的，我看看

作者
Author: 喵星大佬 时间: 2020-9-29 21:22

wzkchem5 发表于 2020-9-29 18:32
哈哈哈
之前看到Head-Gordon测了各种泛函算Ar二聚体的势能曲线，明尼苏达泛函有一大半的势能曲线都到处 ...

积分格点精度不够咯

作者
Author: 笙歌落 时间: 2020-9-29 21:51

wzkchem5 发表于 2020-9-29 18:32
哈哈哈
之前看到Head-Gordon测了各种泛函算Ar二聚体的势能曲线，明尼苏达泛函有一大半的势能曲线都到处 ...

明尼苏达大学的理论与计算化学很厉害吗？

作者
Author: 笙歌落 时间: 2020-9-29 22:37

喵星大佬发表于 2020-9-29 21:22
积分格点精度不够咯

现在中美回不去了，去美国读理工科会被限制或者针对，所以想去国外读理论与计算化学的博士或者博士后，有哪些国家或者学校可以推荐，比如日本京都大学福井谦一理论化学研究所，可以吗？南洋理工大学，新加坡国立大学，里昂高师呢？我不知道。
另外，有人说理论与计算化学发源地是美国，还有人说是英国

作者
Author: wzkchem5 时间: 2020-9-30 11:22

喵星大佬发表于 2020-9-29 21:22
积分格点精度不够咯

格点用的是(99,590)，也不排除是不够。但是我记得明尼苏达泛函即使在格点无穷大的极限下势能面也可能不平滑

作者
Author: wzkchem5 时间: 2020-9-30 11:23

笙歌落发表于 2020-9-29 22:37
现在中美回不去了，去美国读理工科会被限制或者针对，所以想去国外读理论与计算化学的博士或者博士后，有 ...

德国可以多了解一些

作者
Author: wzkchem5 时间: 2020-9-30 11:24

笙歌落发表于 2020-9-29 21:51
明尼苏达大学的理论与计算化学很厉害吗？

大概是Truhlar一家独大吧。。。

作者
Author: 喵星大佬 时间: 2020-9-30 11:28

wzkchem5 发表于 2020-9-30 11:22
格点用的是(99,590)，也不排除是不够。但是我记得明尼苏达泛函即使在格点无穷大的极限下势能面也可能不平 ...

确实，我曾经碰到过一个纯有机阴离子垂直电离的自由基，用wB97XD，PBE0或者B3LYP优化都是直接分解，用IRC(downhill)可以跑出分解途径，用M062X居然可以优化出极小点结构

作者
Author: 喵星大佬 时间: 2020-9-30 11:32
本帖最后由喵星大佬于 2020-9-30 11:33 编辑

wzkchem5 发表于 2020-9-30 11:24
大概是Truhlar一家独大吧。。。

这家伙的东西很多都是不光滑的，比如加了SMx溶剂模型日常导致几何优化/过渡态收敛困难，势能面扫描某些点突然飞出去之类的

作者
Author: wzkchem5 时间: 2020-9-30 15:20

喵星大佬发表于 2020-9-30 11:32
这家伙的东西很多都是不光滑的，比如加了SMx溶剂模型日常导致几何优化/过渡态收敛困难，势能面扫描某些点 ...

就是拟合的时候没有注意regularization...
不过SMx不光滑可能不一定能怪他吧，基于cavity的隐式溶剂模型多少都有不光滑的问题

作者
Author: 笙歌落 时间: 2020-9-30 15:58

wzkchem5 发表于 2020-9-30 11:23
德国可以多了解一些

好的，谢谢

作者
Author: 笙歌落 时间: 2020-9-30 15:59

wzkchem5 发表于 2020-9-30 11:24
大概是Truhlar一家独大吧。。。

明白

作者
Author: 笙歌落 时间: 2020-10-2 10:35
本帖最后由笙歌落于 2020-10-2 10:40 编辑

喵星大佬发表于 2020-9-30 11:32
这家伙的东西很多都是不光滑的，比如加了SMx溶剂模型日常导致几何优化/过渡态收敛困难，势能面扫描某些点 ...

借楼问一下，您知道人工智能化学，还有人工智能化工都是什么研究方向吗?主要研究什么？

作者
Author: pyscf 时间: 2021-6-12 01:34

sobereva 发表于 2020-9-28 12:56
神经网络是机器学习的一种形式，深度学习是隐藏层的深度大幅增加的神经网络，是机器学习目前最为复杂的模型 ...

这个地方(https://github.com/smutao/torchANI2Gaussian/)提供了了一个把TorchANI连接到GS程序的脚本
类似xtb、ORCA的情况

欢迎光临计算化学公社 (http://bbs.keinsci.com/)