计算化学公社

标题: AI发展下去是否还有必要学习基础理论和程序底层逻辑？是否有必要培养文献阅读能力？ [打印本页]

作者
Author: GauCPGro 时间: 2025-3-20 13:43
标题: AI发展下去是否还有必要学习基础理论和程序底层逻辑？是否有必要培养文献阅读能力？
组内一个师弟突然兴致勃然走过来给我指点江山，说现在AI这么牛逼，只要prompt写得好，根本不需要懂，也不需要多看不必要的基础理论和程序底层实现，就能顺利做完计算化学的课题；只要一步一步写prompt，AI就能把整个流程方法告诉你，照着做就行，如果担心计算方法有漏洞，就质问AI是否有漏洞和哪里可以改进；还说现在看文献只要丢给AI分析就行了，压根不需要自己看。大家怎么看？

另外他自己确实对计算化学啥也不懂，但研二上学期就跑好了小论文和大论文所需要的数据，大图也画好了。

作者
Author: Rreido 时间: 2025-3-20 13:52
感觉在“只要prompt写得好”这一步就需要坚实的基础理论，不然出现错误就不知道怎么修改，甚至很多时候没有出现错误但需要自己判断合不合理。

作者
Author: sobereva 时间: 2025-3-20 15:14
先甜后苦

作者
Author: WOOOOWOOOO 时间: 2025-3-20 17:11
只能基于现有的东西搞吧，没法考虑目前没有的机理，而且现在的AI很笨，可以作为工具使用

作者
Author: student0618 时间: 2025-3-20 18:01
本帖最后由 student0618 于 2025-3-20 19:31 编辑

不理解流程的目的就只是代AI工作的robot吧，学位大概也给AI领更合理，让AI当一作 Acknowledge他？

而且，诸如project planning、experimental design相关能力，判断文献合理性等等，是要靠自己看大量文献、实作、试错等经验锻炼出来的。

作者
Author: GauCPGro 时间: 2025-3-20 19:27

Rreido 发表于 2025-3-20 13:52
感觉在“只要prompt写得好”这一步就需要坚实的基础理论，不然出现错误就不知道怎么修改，甚至很多时候没有 ...

我想不出能反驳的具体例子....

作者
Author: GauCPGro 时间: 2025-3-20 19:37

sobereva 发表于 2025-3-20 15:14
先甜后苦

以这类人的逻辑，社长的培训班是没必要参加的，所以以社长丰富的计算经验，可否举些有力的实例助我熄灭这类人的气焰

作者
Author: GauCPGro 时间: 2025-3-20 19:41

WOOOOWOOOO 发表于 2025-3-20 17:11
只能基于现有的东西搞吧，没法考虑目前没有的机理，而且现在的AI很笨，可以作为工具使用

实话说AI是挺强大的，一步步写prompt应该也能引导AI创造新的模型和算法？这就到了AI是否有创造力的话题了......

作者
Author: wzkchem5 时间: 2025-3-20 19:43
问题不是prompt能不能写得好，而是prompt能不能写得比大多数人好。。。
prompt要是写得极好，也是要非凡的本事的，就像很多老师不能清晰地把任务派给学生做，那这种老师也没法跟AI说清楚需求，也就是写不好prompt

作者
Author: GauCPGro 时间: 2025-3-20 19:50

student0618 发表于 2025-3-20 18:01
不理解流程的目的就只是代AI工作的robot吧，学位大概也给AI领更合理，让AI当一作 Acknowledge他？
**** 本 ...

他意思是懂理论懂算法除了满足好奇心和秀一把，没啥意义，他一个啥理论不懂的人，通过AI也能实现跟懂理论懂算法的人一样的目的，毕业答辩的事情倒无关紧要；另外他嘲讽我还在用人眼看那晦涩的英文是很呆板的、跟不上时代的做法，我想了想看文献的也确实丢给AI能给我们迅速提炼要点，辩证解读优点和不足，比我自己用肉眼看要更快和全面，因此一时无力反驳

作者
Author: GauCPGro 时间: 2025-3-20 20:05

wzkchem5 发表于 2025-3-20 19:43
问题不是prompt能不能写得好，而是prompt能不能写得比大多数人好。。。
prompt要是写得极好，也是要非凡的 ...

或许是这样的，但论证起来较复杂

作者
Author: student0618 时间: 2025-3-20 21:01

GauCPGro 发表于 2025-3-20 19:50
他意思是懂理论懂算法除了满足好奇心和秀一把，没啥意义，他一个啥理论不懂的人，通过AI也能实现跟懂理论 ...

楼主真有耐心，我的话大概随便应付一下就算了，他若甘愿止步于此、没科研人员应有的探究精神，随他吧。

不少劣质论文是要靠经验分析，有时也要询问了解该方向的老师是否可信。例如给张RMSD图说这小分子binding很stable实际pbc也没处理过、或者跑gel的图实际几乎看不到band却说有。只分析内文又看不懂图会以为那是多重要的发现。内文可以写得很groundbreaking但数据根本无法support那论点。

AI再强大，目前我还是在看期刊的TOC email alerts，总觉得这样follow新趋势更全面，能练练英语，也可以参考作图的方法。与其跟那些人辩论还不如多看几篇文章。

作者
Author: GauCPGro 时间: 2025-3-20 21:18

student0618 发表于 2025-3-20 21:01
楼主真有耐心，我的话大概随便应付一下就算了，他若甘愿止步于此、没科研人员应有的探究精神，随他吧。
...

确实，这说的确是比较有力的论证，主要那人工位坐我旁边，天天过来阴阳怪气

作者
Author: rugals 时间: 2025-3-20 22:47
我就一个疑惑
你这师弟还有存在的必要性吗？

作者
Author: 是涅炎啊 时间: 2025-3-20 23:59
作为局外人，我仅发表一下自己的看法：搞科研是创造，而AI永远也无法在这方面替代人类。人类可以在原有的基础上迸发出新的灵感，但就目前来说，AI不行。故搞好基础是任何事情的前提，不论是科研还是其他

作者
Author: sobereva 时间: 2025-3-21 12:21

GauCPGro 发表于 2025-3-20 19:37
以这类人的逻辑，社长的培训班是没必要参加的，所以以社长丰富的计算经验，可否举些有力的实例助我熄灭 ...

在欠缺足够常识的情况下靠AI零七八碎地那么搞，知识架构、研究方法漏洞百出，被AI误导了也浑然不知（AI尤其擅长一本正经地胡说八道），充其量也就是做一些低水平粗制滥造灌水的工作，始终停留在业余阶段。文章很可能被专业审稿人轻易挑出十几处甚至更多的硬伤；就算文章侥幸发出去了，也可能被其他人的comment文章批得很惨（例如下面两篇文章中我做的comment。作者都是极其欠缺基本常识）。
我对一篇存在大量错误的J.Mol.Model.期刊上的18碳环研究文章的comment
http://sobereva.com/584（http://bbs.keinsci.com/thread-21782-1-1.html）
18碳环（cyclo[18]carbon）与石墨烯的相互作用：基于簇模型的研究一例
http://sobereva.com/615（http://bbs.keinsci.com/thread-25306-1-1.html）

北京科音的培训极其完整、系统、由浅入深循序渐进地讲，如同建房子是先从地基开始一点点往上扎扎实实盖起来的，以这种方式学习和做学问，楼能越建越高、建得出彩。而光靠AI那么胡搞，弄出来的就是个简易的危房。

AI可以作为显著提高科研效率的助力，甚至可以辅助给研究者提供idea，但科研的核心终究还是人，科研人员该做的正是纯凭AI做不出来的东西。

如果你师弟明知道上面的理，仍就是自满于靠AI搞搞低水平灌水的东西混毕业，那点出息就太可怜了。

作者
Author: Graphite 时间: 2025-3-21 13:08
本帖最后由 Graphite 于 2025-3-21 13:12 编辑

AI只是工具，最终决定的还是人，人类社会所有价值，归根结底都是人本身创造的。

这种话就跟”我手下很强，所以全把活丢给手下干就好，我只负责当传声筒”的领导一样。又或者像“有农业机械，所以以后不需要多少人种田了，大家呆家里等着吃大米就好”一样肤浅。

顺便一说他这个AI使用水平和认识也堪忧，也就停留在第一层写prompt、洗文档了。

作者
Author: Lacrimosa 时间: 2025-3-21 13:26
本帖最后由 Lacrimosa 于 2025-3-21 13:27 编辑

AI的训练集终究是来源于网络的啊，对于常见的模拟分析可能网上资料比较多，但大多数模拟分析手段还是很少有相关资料的吧。把有大量公式的论文交给AI解读真的能放心吗，lammps手册写的那么详细，你让AI提供个输入文件可能都漏洞百出，更何况有些程序手册写的人都看不明白，AI能给出正确的回答吗。。。

作者
Author: JinxrDK 时间: 2025-3-24 19:58
个人感觉AIGC也就是给一知半解的人故弄玄虚的，用在严谨的科研工作中不太合适。

（听说之前学校有逆天老师用DS写面上的本子，大受震撼。。）

作者
Author: TerminSong 时间: 2025-3-26 14:56
AI并未脱离权重统计的本质，所谓创造力也只是类似于退火高温态允许在势函数限制之外产生一定的启发式搜索罢了。
所以当训练语料不足以支撑判断，AI幻觉就会产生，我最近在研究lammps的源码和一些设计上的技巧，DS哪怕在分析现有代码上都漏洞百出，比如lammps是如何避免截断距离超过处理器网格距离时多次数据交换中产生冗余的幽灵原子数据这一问题，DSR1回答牛头不对马嘴，而且十分自信，令人忍俊不禁

。

作者
Author: tonganlhy 时间: 2025-3-26 16:02
用AI来总结下文献，写写八股文那还是可以的，如果是用来做研究，那就有很多坑了

欢迎光临计算化学公社 (http://bbs.keinsci.com/)