机器学习力场运用到DNA体系的分子动力学

zhouchen · 发表于 Post on 2024-3-11 09:48:59

大家好，我们想用DeePMD-kit进行机器学习力场的训练，运用到Gromacs中，计算DNA体系的分子动力学。

但是机器学习力场需要数据集以及大量的训练时间

现在有两种办法，一种是使用深势科技的DPA大模型进行少量数据微调（https://zhuanlan.zhihu.com/p/555832644）（仅仅是减少训练时间，还是需要数据集），一种是使用别人已经训练好并且开源的机器学习力场，

我们更倾向于后者，请问大家有读过这方面的文献吗，我在deepmd的文章引用网站中(https://deepmodeling.com/blog/papers/deepmd-kit/)没找到（感觉机器学习力场运用到生物体系的文章很少）。或者说大家有更好的解决办法吗？

k64_cc · 发表于 Post on 2024-3-11 12:43:25

本帖最后由 k64_cc 于 2024-3-11 12:45 编辑

针对预训练大模型进行fine-tune，至少也需要万级别的能量和力。如果真的不想训，ANI、MACE之类的可以直接拿来用。

但是你这个选题最大的问题其实是，你确定你要研究的问题真的需要NNP来描述吗？为什么你们觉得现在的分子力场无法解决你们的问题呢？已有的开源力场模型解决了你们需要的问题吗？生物大分子的构象问题，就算全原子经典力场MD跑长时间的轨迹，都没法很好解决，以至于学界还在研究CG一类更大尺度的方法。用NNP跑生物大分子，真的能在理想的尺度内看到你们感兴趣的变化吗？我不太确定，或许可以先调研一下。

另外，溶液下的问题，因为水的直接参与，单纯提高势能面精度用处不大。NNP/MM一类的方法会比纯NNP跑溶液体系好很多。

zhouchen · 发表于 Post on 2024-3-11 14:14:43

k64_cc 发表于 2024-3-11 12:43
针对预训练大模型进行fine-tune，至少也需要万级别的能量和力。如果真的不想训，ANI、MACE之类的可以直接拿 ...

感谢您的指导，我再进行思考和调研

Huschein · 发表于 Post on 2024-3-11 14:17:18

确实没必要用ML，除非你是做力场开发的，但是现在做transferable力场的ANI MACE其实已经做的蛮不错的了

Aletyx · 发表于 Post on 2024-3-11 14:41:28

我日常会用DeepMD-kit来训练固体的机器学习势，前两天还去绅士科技开会讨论了下，我的看法如下：
1. 如果要微调finetuning，那么建议用最近发布的DPA-2，不要用DPA-1。优点：DPA2预训练模型的数据集很大，且DPA-2的可表示能力很强。起码在我关注的体系上，DPA-2表现还可以。缺点：DPA-2非常耗时，而且DPA-2不能跑MD，必需先做蒸馏（详情可以阅读DPA-2的paper）
2. 机器学习势的预训练大模型虽然号称“大模型”，实则和大语言模型的参数了差了几个数量级，去做微调完全不需要上万的DFT数据。DPA-2的paper里面强调：用他们的模型做finetuning可以节约好几个数量级的数据，可能上千个数据就行了。
3. DP的深度学习势函数好像在生物体系上表现并不理想。我本人不太懂生物体系，但是确实有不少人在关注NNP/MM的方法。

zhouchen · 发表于 Post on 2024-3-11 16:50:28

Aletyx 发表于 2024-3-11 14:41
我日常会用DeepMD-kit来训练固体的机器学习势，前两天还去绅士科技开会讨论了下，我的看法如下：
1. 如果 ...

谢谢您的指导，我想请问您的第三个观点有具体论文支持吗？

k64_cc · 发表于 Post on 2024-3-11 18:12:57

本帖最后由 k64_cc 于 2024-3-11 18:14 编辑

Aletyx 发表于 2024-3-11 14:41
我日常会用DeepMD-kit来训练固体的机器学习势，前两天还去绅士科技开会讨论了下，我的看法如下：
1. 如果 ...

固体确实不需要，有机体系就难说了。核酸的结构还是颇有些复杂的。

Aletyx · 发表于 Post on 2024-3-11 21:22:45

zhouchen 发表于 2024-3-11 16:50
谢谢您的指导，我想请问您的第三个观点有具体论文支持吗？

开会的时候听别人说的（也有可能是我听错了）。
此外，我个人感觉生物体系准备训练数据是非常麻烦的，因为体系大、原子数多、分子量大，用DFT去直接算好像不太现实。

sobereva · 发表于 Post on 2024-3-12 10:04:09

DNA体系的分子动力学根本轮不到用机器学习势，也派不上用场

验证一种势函数模拟生物分子的准确性，首先就得对往往原子数非常多的生物分子跑很长时间的（几百ns甚至>=微妙尺度）的动力学，根本不是相对于经典力场昂贵太多的机器学习势能跑得了的。而且主流的经典力场模拟DNA本来就已经很好了，也根本不需要用机器学习势。而且也绝对不代表机器学习势能把DFT或更高级别的势能面重现好，就能代表这样的机器学习势实际跑生物分子能够有多准确、比现有的专一性且久经考验的经典的分子力场更强（还牵扯到与溶剂的误差抵消。而且生物大分子构象对势能面精度极其敏感，对DFT程度的势能面重现好也只能算是个起点，还需要实际动力学跑的结果与NMR实验得到的构象数据作为参照反反复复优化）。

机器学习要用在该用的地方，即真正能发挥机器学习的价值、解决以往解决不了的问题的地方，不可盲目为了机器学习而机器学习，不是什么地方都有空间能让机器学习势插一脚。

chenzhe · 发表于 Post on 2024-3-12 16:09:46

水和复杂有机体系的目前都不怎么样，甚至都比不过经典力场（无论速度和精度，经典力场虽然看似粗糙，但是实际只要参数调整足够好，因为拟合实验数据，往往还是非常不错的）。目前机器学习，大部分还是在固体领域效果不错。

zhouchen · 发表于 Post on 2024-3-12 20:24:18

sobereva 发表于 2024-3-12 10:04
DNA体系的分子动力学根本轮不到用机器学习势，也派不上用场

验证一种势函数模拟生物分子的准确性，首先 ...

明白了，谢谢sob老师

		自动登录 Automatic login	找回密码 Forget password
密码 Password			注册 Register

[GROMACS] 机器学习力场运用到DNA体系的分子动力学

浏览过的版块