AI发展下去是否还有必要学习基础理论和程序底层逻辑？是否有必要培养文献阅读能力？

sobereva

GauCPGro 发表于 2025-3-20 19:37
以这类人的逻辑，社长的培训班是没必要参加的，所以 以社长丰富的计算经验，可否举些有力的实例助我熄灭 ...

在欠缺足够常识的情况下靠AI零七八碎地那么搞，知识架构、研究方法漏洞百出，被AI误导了也浑然不知（AI尤其擅长一本正经地胡说八道），充其量也就是做一些低水平粗制滥造灌水的工作，始终停留在业余阶段。文章很可能被专业审稿人轻易挑出十几处甚至更多的硬伤；就算文章侥幸发出去了，也可能被其他人的comment文章批得很惨（例如下面两篇文章中我做的comment。作者都是极其欠缺基本常识）。
我对一篇存在大量错误的J.Mol.Model.期刊上的18碳环研究文章的comment
http://sobereva.com/584（http://bbs.keinsci.com/thread-21782-1-1.html）
18碳环（cyclo[18]carbon）与石墨烯的相互作用：基于簇模型的研究一例
http://sobereva.com/615（http://bbs.keinsci.com/thread-25306-1-1.html）

北京科音的培训极其完整、系统、由浅入深循序渐进地讲，如同建房子是先从地基开始一点点往上扎扎实实盖起来的，以这种方式学习和做学问，楼能越建越高、建得出彩。而光靠AI那么胡搞，弄出来的就是个简易的危房。

AI可以作为显著提高科研效率的助力，甚至可以辅助给研究者提供idea，但科研的核心终究还是人，科研人员该做的正是纯凭AI做不出来的东西。


如果你师弟明知道上面的理，仍就是自满于靠AI搞搞低水平灌水的东西混毕业，那点出息就太可怜了。

Graphite

AI只是工具，最终决定的还是人，人类社会所有价值，归根结底都是人本身创造的。

这种话就跟”我手下很强，所以全把活丢给手下干就好，我只负责当传声筒”的领导一样。又或者像“有农业机械，所以以后不需要多少人种田了，大家呆家里等着吃大米就好”一样肤浅。

顺便一说他这个AI使用水平和认识也堪忧，也就停留在第一层写prompt、洗文档了。

Lacrimosa

AI的训练集终究是来源于网络的啊，对于常见的模拟分析可能网上资料比较多，但大多数模拟分析手段还是很少有相关资料的吧。把有大量公式的论文交给AI解读真的能放心吗，lammps手册写的那么详细，你让AI提供个输入文件可能都漏洞百出，更何况有些程序手册写的人都看不明白，AI能给出正确的回答吗。。。

JinxrDK

个人感觉AIGC也就是给一知半解的人故弄玄虚的，用在严谨的科研工作中不太合适。

（听说之前学校有逆天老师用DS写面上的本子，大受震撼。。）

TerminSong

AI并未脱离权重统计的本质，所谓创造力也只是类似于退火高温态允许在势函数限制之外产生一定的启发式搜索罢了。
所以当训练语料不足以支撑判断，AI幻觉就会产生，我最近在研究lammps的源码和一些设计上的技巧，DS哪怕在分析现有代码上都漏洞百出，比如lammps是如何避免截断距离超过处理器网格距离时多次数据交换中产生冗余的幽灵原子数据这一问题，DSR1回答牛头不对马嘴，而且十分自信，令人忍俊不禁。

tonganlhy

用AI来总结下文献，写写八股文那还是可以的，如果是用来做研究，那就有很多坑了

口算能力者

随着AI的发展，我真是不寒而栗，如今已经能独立完成很多计算了，这才仅仅3年左右，像社长说的已经可以水论文了，如果给他更久的时间呢

SharkYYX2025

游客，本帖隐藏的内容需要积分高于 25 才可浏览，您当前积分为 0

Diotima

细节决定成败。AI的很多东西写出来是错的。自己不会的话，看都看不出来哪里错了。

不过最近openclaw大火嘛。我一直在想，这种东西万一弄出问题了，责任是在用户，在api提供方？还是在框架提供方？感觉AI和过去的仆人很像，有自主能动性，又不是完全听话。不过古代的仆人是有背锅义务的，也算自然人。而且主人管教不得当也是很严重的问题，要担责任的。

s1gma

有必要，即使你做AI4S也需要比较好的化学基础来做约束项，不然模型犯病输出一个错的离谱的答案你都不知道

Observer-Aya

这两年AI进步确实挺明显的，一年前我问DS在计算软件的使用他给出的命令和操作有些根本不存在或者是错误的，今年我一个没用过CP2K的人居然用它指导我在ubuntu上安装了cp2k然后跑了个单点能测试，但用这个工具需要有足够的基础知识，懂的人用它省事，不懂的拿他糊弄事一堆错误反受其害

student0618

现在的话，尤其是开始agent的时代了，没基本知识其实风险更高。

游客，本帖隐藏的内容需要积分高于 100 才可浏览，您当前积分为 0

最近测一堆小模型作agent，模型自己找不到实际存在的指令就要求sudo权限。不了解基本知识的人让它sudo就很可能重要资料没了。
top 5大模型是很优秀，但还是会犯错的，也不是不会擅自作没approve 的决定，上星期测gpt-5.4 他还是会revert掉我手动commit的代码 (就因为这不是它的commit 美其名曰keep it clean)。不了解就直接用的话就真的会欲哭无泪了。

J.Liu

AI毫无创新性，只是基于现有的东西排列组合。边缘化的任务可以给AI，完了审一遍。核心的东西还得人干。用多了会发现AI的回答涉及前沿的东西的时候出错率非常之高，比如说目前有人干了A B C D,你要搞E，AI的回答只会从A B C D里面拼凑组合，内行人一看就一眼假，毫无可取性！相比之下，我觉得AI更应该是一个处理一些低级问题的工具，帮助工作加速，而不是当成一个核心依赖！

守恒律应于生活，我觉得苦的总衡量量也是守恒的，迟早得吃，现在逃的会以某种方式在以后的某个将来反弹回来。