分页: 2 / 2

#21 Re: 大模型并没有涌现现象

发表于 : 2023年 12月 1日 05:08
xexz
xexz 写了: 2023年 12月 1日 04:45 你好好想想,温度相变算是‘新生‘么,连‘物理复杂性’到‘化学复杂性’都没有。

但是人脑中的水显然参加了‘智力活动’,人脑这种复杂物质表现出来的‘智力现象’才是新生的,不管液态水,还是结冰和蒸汽都是不能完整解释的。

我似乎说清楚了呀。
叔觉得能认识到:‘复杂性带来的质变,从本质上是个随机过程’,是个认识论上的巨大进步,现在不被认识一点也不要紧,将来就是常识的一部分。

#22 Re: 大模型并没有涌现现象

发表于 : 2023年 12月 1日 05:19
vitro
在读费耶阿本德:目前的解释方法都是基于还原论的,难道不能跳出还原论吗?
弃婴千枝 写了: 2023年 11月 30日 20:32 你们的想像力真丰富

物理学对emergent有大量的研究,最简单的例子比如水结冰,水分子之间牛顿力学并不隐含相变,但是,1 atm下,0度水必然结冰,这不是随机的

物理学丛landau开始折腾了近100年,目前准对emergent的方法只有2:平均场论,和wilson的重整化群,所以我想计算机领域要emergent出“智能”,估计还得花上100年时间

#23 Re: 大模型并没有涌现现象

发表于 : 2023年 12月 1日 05:27
wass
Caravel 写了: 2023年 11月 30日 13:05 人脑有100B神经元,跟LLM差不多了
LLM的activation function太简单,所以一个人脑的神经元顶很多参数

#24 Re: 大模型并没有涌现现象

发表于 : 2023年 12月 3日 07:36
forecasting
弃婴千枝 写了: 2023年 11月 30日 20:32 你们的想像力真丰富

物理学对emergent有大量的研究,最简单的例子比如水结冰,水分子之间牛顿力学并不隐含相变,但是,1 atm下,0度水必然结冰,这不是随机的

物理学丛landau开始折腾了近100年,目前准对emergent的方法只有2:平均场论,和wilson的重整化群,所以我想计算机领域要emergent出“智能”,估计还得花上100年时间
你们能不能给出涌现的一个严格定义呢。鸡同鸭讲,没意义。
如果定义涌现为,牛顿力学并不能推导出相变,因此相变是涌现。那么得证明,一,牛顿力学不能计算出或推导出相变,而不是限于目前计算手段或者计算时间,无法推断或者计算出来,理论上还是能计算或者推断出来。二,实验证明,存在相变,比如0度必然结冰。
两者缺一不可。认为大规模神经网络会涌现智能。你也得证明基于神经元无法推导或者计算出智能。二,大规模神经网络(一定阈值)必然出现智能。另外一个问题是,你必须定义啥是智能。人类智能一直没定义好,或者没说清边界,图灵测试或Searle Chinese room只能否定达到了人类智能,不能肯定达到了人类智能。否则讨论这问题就是关公战秦琼。

#25 Re: 大模型并没有涌现现象

发表于 : 2023年 12月 3日 07:38
forecasting
顺便说一句,题主是一个思路不清晰的人。大家不信,可以拭目以待。