Deep learning引发的AI热潮（突破？革命？）底层是什么，意义呢？

[Caravel]

老牛不想特别针对你（们）（发考题们）作评论。不过老牛觉得你（们）没有做过（一线的）AI工作。不了解AI人每一步的挣扎（如另一楼楼主说的），所以也不明白AI现在要这样做，以及目的是什么。说实话，也许对做AI的人而言，可能不明白你想讨论的问题是什么。也许你自己也不清楚自己想说什么。

当然，也可能是老牛老了/out了。

1/ 图灵机是一个理论模型，为了解决特定理论问题提出。当然对大模型甚至冯诺依曼计算机都没有直接的意义。

2/ LLM是一种Circuit。一般认为Circuit等价于图灵机。但这个等价只是宗教信仰。其实两很不一样。就像老牛说的，Circuit可以超过图灵机，但结果就不再确定。你可以认为这是所谓神经网络可以很神奇但又不可理解不可验证的根源。

3/ 老牛用严格的传统的基于自动机的计算机理论设计的算法同样可以理解自然语言并实现超过领域里人类专家的水平。大模型并不特别神奇。

4/ 就像老牛还知道如何（严格的传统的基于自动机的计算机理论）解决今天大模型也不能解决的问题一样。暗示，请自我脑补老牛的几十万行程序梗背后有没有什么没说的故事。

5/ 完全可以用同样的大模型训练集去训练基于严格的传统的基于自动机的模型。老牛活早了几十年。那时候没有这么强大的计算能力，也没有这么多可训练数据。这才是现在和以前的本质区别。而不是LLM真有什么超然之处。事实上，老牛听说Tesla的FSD就不基于LLM。

如果你的问题有限随时间增长也有限，总有一天会被计算机的指数增长追上。根据摩尔定律，现在的单位芯片处理能力是30年前的100万倍。而且现在的人类还疯狂地使用数十万计的这类芯片。也就是训练/思维能力是当年单CPU的几千亿倍。

这是为何今天突然所谓AI有了突破的原因。如果20年前老牛能在单核CPU上超过人类。现在的LLM也好，其它什么模型也好，不能比老牛当年好几亿倍，那拿砖头拍死自己算了。

别吹牛逼了，几十年前那有什么成功理解自然语言的算法。

[牛河梁]

别吹牛逼了，几十年前那有什么成功理解自然语言的算法。

吹牛逼会死么。老牛20年前做到的东西。你们现在千亿次计算机了还有不知道怎么能做到的。

当然，自然语言理解现在有了LLM不新鲜了。不考虑成本用LLM也没问题。