新未名空间

特点是训练量非常大。是一种一开始就说复杂语言的过程。和大多数人从简单单词简单概念少量学习样本就能开始处理简单问题不一样。

这种情况在人类也有。需要大量的漫长的训练，但一开口就成章。这种就是自闭症患者。

牛河梁 写了： 2023年 10月 24日 22:53 特点是训练量非常大。是一种一开始就说复杂语言的过程。和大多数人从简单单词简单概念少量学习样本就能开始处理简单问题不一样。

这种情况在人类也有。需要大量的漫长的训练，但一开口就成章。这种就是自闭症患者。

这个比喻很恰当。

牛河梁 写了： 2023年 10月 24日 22:53 特点是训练量非常大。是一种一开始就说复杂语言的过程。和大多数人从简单单词简单概念少量学习样本就能开始处理简单问题不一样。

这种情况在人类也有。需要大量的漫长的训练，但一开口就成章。这种就是自闭症患者。

有道理。

缺乏成长，以及DNA。

AGI是需要能够主动探索外部世界，进行有效计算，不断总结归纳的一种智能。所以目前这些AI都是邪路，发展不到AGI。

牛河梁 写了： 2023年 10月 24日 22:53 特点是训练量非常大。是一种一开始就说复杂语言的过程。和大多数人从简单单词简单概念少量学习样本就能开始处理简单问题不一样。

这种情况在人类也有。需要大量的漫长的训练，但一开口就成章。这种就是自闭症患者。

cozofxx 写了： 2023年 10月 27日 22:52 AGI是需要能够主动探索外部世界，进行有效计算，不断总结归纳的一种智能。所以目前这些AI都是邪路，发展不到AGI。

我其实挺看好现在的AI。人类大师们也多自闭。AGI做不到就留给人类做好了。大师位置留给AI。人类可以给AI开车，上机油。

牛河梁 写了： 2023年 10月 27日 22:55 我其实挺看好现在的AI。人类大师们也多自闭。AGI做不到就留给人类做好了。大师位置留给AI。人类可以给AI开车，上机油。

目前的AI是在人类控制下的计算资源的整合。未来，必然有一天人类要开始AGI的征程，把智慧的薪火传给可以更广泛探索宇宙的载体。这个大致也是人类文明的一个主要任务，我估计。

cozofxx 写了： 2023年 10月 27日 23:07 目前的AI是在人类控制下的计算资源的整合。未来，必然有一天人类要开始AGI的征程，把智慧的薪火传给可以更广泛探索宇宙的载体。这个大致也是人类文明的一个主要任务，我估计。

自然选择。会有人被选择掉。未来文明的人类，都是AI大腿抱得紧的后代。就像当年天顶星殷商驾车持锡青铜兵器殖民中国一样。

牛河梁 写了： 2023年 10月 24日 22:53 特点是训练量非常大。是一种一开始就说复杂语言的过程。和大多数人从简单单词简单概念少量学习样本就能开始处理简单问题不一样。

这种情况在人类也有。需要大量的漫长的训练，但一开口就成章。这种就是自闭症患者。

人类智能的漫长的训练开始于600万年前，人类出现的时候，
如果不算上前面各物种的进化过程，（有机生物38亿年前开始形成）

牛河梁 写了： 2023年 11月 1日 17:12 自然选择。会有人被选择掉。未来文明的人类，都是AI大腿抱得紧的后代。就像当年天顶星殷商驾车持锡青铜兵器殖民中国一样。

未来只有AGI，不会有人了。碳基生命这类软物质不太适应星际旅行。

cozofxx 写了： 2023年 11月 1日 20:18 未来只有AGI，不会有人了。碳基生命这类软物质不太适应星际旅行。

基于实数级的量子AI要成了，人类就该灭绝了。现在的A(G)I应该还会有人。是不是生活在AI的动物园或者人类保护区里另说。

牛河梁 写了： 2023年 11月 1日 21:47 基于实数级的量子AI要成了，人类就该灭绝了。现在的A(G)I应该还会有人。是不是生活在AI的动物园或者人类保护区里另说。

实数应该是人类设定出来的一种局域的数学方便。宇宙当中，大致是既没有无穷大也没有无穷小。。。所以量子AI这玩意儿应该没戏。不过
基本原则就是稳定地flip一个bit所需的能量是一种文明的硬性标志，因此基于spin或者更小尺寸的informaiton manipulation依然有很高的计算意义和现实意义。

牛河梁 写了： 2023年 10月 24日 22:53 特点是训练量非常大。是一种一开始就说复杂语言的过程。和大多数人从简单单词简单概念少量学习样本就能开始处理简单问题不一样。

这种情况在人类也有。需要大量的漫长的训练，但一开口就成章。这种就是自闭症患者。

自闭症有传染性吗？我能看到，将来的人类都只和chatgpt这样的自闭症患者交流，表面看起来有新的信息注入，但其实是自循环，最终人类社会都变成了一个完全的自闭症社会。

这真是一个可怕的远景。

首先，自闭和自闭不一样。自闭是个筐，啥都往里装。如果只讨论自闭语迟，那么自闭应该不是遗传的，也没有理由认为是传染的，而应该是随机的。当然，貌似随机之下有没有隐变量，如可传染因素，另说。

以人工神经网来看，其实最重要的不是堆数据，而是系统设计，也就是其架构（有多少层，每层多少节点）、初始权重及引入的噪音。

噪音能有效防止overfit。但表现出来就是学习迟缓。噪音低的一开始学习可能掌握表现得更快，但很容易overfit。少时了了大未必佳。

自闭娃的初始大脑神经元连接可能太多。因此难以用少量样本训练。等于巨量参数的模型，必须用大量数据去训练才能开始工作。但大模型的潜力不是果蝇脑袋可以比的。

pseudo 写了： 2023年 11月 3日 01:28 自闭症有传染性吗？我能看到，将来的人类都只和chatgpt这样的自闭症患者交流，表面看起来有新的信息注入，但其实是自循环，最终人类社会都变成了一个完全的自闭症社会。

这真是一个可怕的远景。

能拟合出来个结果主要还是和在一定误差范围内，函数是大致平底的有关。如果尖底太多，就怎么都不行。

牛河梁 写了： 2023年 11月 3日 19:44 首先，自闭和自闭不一样。自闭是个筐，啥都往里装。如果只讨论自闭语迟，那么自闭应该不是遗传的，也没有理由认为是传染的，而应该是随机的。当然，貌似随机之下有没有隐变量，如可传染因素，另说。

以人工神经网来看，其实最重要的不是堆数据，而是系统设计，也就是其架构（有多少层，每层多少节点）、初始权重及引入的噪音。

噪音能有效防止overfit。但表现出来就是学习迟缓。噪音低的一开始学习可能掌握表现得更快，但很容易overfit。少时了了大未必佳。

自闭娃的初始大脑神经元连接可能太多。因此难以用少量样本训练。等于巨量参数的模型，必须用大量数据去训练才能开始工作。但大模型的潜力不是果蝇脑袋可以比的。