现在的LLM本质上是一种数据库

[hci]

除了搞低端creative工作的，没有人会失业。

现在码工业不景气，其实是恢复正常。与LLM无关。

我在talk里说，LLM的社会影響与搜索引擎差不多大。搜索引擎让一些图书馆工作不见了，纸质书图书馆消失了一些。就这。

这么说搞理论的人暂时还不会失业？现在AI虽然很热，但是在纯数学等理论专业中，目前几乎没有用。

[justChat]

gpt中的g， generative。跟数据查询不是一路。

人学习是基于first principles。
AI所谓的learning是找patterns。
不同的两个路子。

本质上是一种pattern match

那些做数学题目厉害的，估计就是哪海量的题训练

如果能用形式推导搞出来就会做。

[FoxMe]

对，你的slides里是有的。原来我很当心，主要是因为陶哲轩也在吹AI在数学中的作用

除了搞低端creative工作的，没有人会失业。

现在码工业不景气，其实是恢复正常。与LLM无关。

我在talk里说，LLM的社会影響与搜索引擎差不多大。搜索引擎让一些图书馆工作不见了，纸质书图书馆消失了一些。就这。

[hci]

陶这人其实是个网红，没有什么自己的思想，更不说懂AI了，不能信他忽悠什么AI如何如何。

AI当然会有些用处，离取代人还早。

但把AI在自己的领域上用起来，也的确是能帮助自己的前程，如陶在做的一样。

对，你的slides里是有的。原来我很当心，主要是因为陶哲轩也在吹AI在数学中的作用

[Caravel]

pattern matching，fitting a curve都是知觉的同义词：把外部刺激映射到内部表征。所以这是认知的第一步。

有了内部表征，才能討論推理。

所以LLM能不能推理是个假问题。LLM当然不能。

这就是为什么要学点基本的心理学，否則讨论AI的东西就是＂not even wrong ＂。

我在这儿讲这些也有几年了，你们中那怕起了心思去看看心理学教科书的都一个没有，不是么？

心理学教科书很好看，比读小说还有乐趣。起码我老婆这么觉得的。

我讲的pattern match不是简单的match一个照片，而是自然语言的一句话，可以形式的运算得出一个结果。

拿数学题做一个例子，LLM并没有真正理解数学概念，而是见了大量的数学题之后，掌握了很多套路，你出一个类似的题目，他可以通过类比，语法上面的替换，搞出一个答案来。如果他训练的题目多，得到的可能就是合理的，如果之前见过的例题太少，出来的可能就是不合理的。

心理学我认为在AI时代变重要了，心理学家其实就是智能系统的解剖学，可以指导下一代AI。

[Caravel]

陶这人其实是个网红，没有什么自己的思想，更不说懂AI了，不能信他忽悠什么AI如何如何。

AI当然会有些用处，离取代人还早。

但把AI在自己的领域上用起来，也的确是能帮助自己的前程，如陶在做的一样。

tao喜欢短平快project，估计是早年高竞赛的后遗症。