新未名空间

地心说也很准的，因为加了很多本轮修正，参数极多，当然能fit得很准。
哥白尼时代的日心说因为没有意识到轨道是椭圆，所以很不准，也需要加本轮修正，所以竞争不过地心说，没有变成主流。
直到开普勒用椭圆代替圆，才一下子简化了日心说，不需要本轮了，参数极少就可以比美参数极多的地心说。
然后牛顿在此基础上提出万有引力，大家才明白为什么。从此没有人再提地心说了。

现在AI的发展，也是典型的“地心说”、唯象论，只负责“fit the data”，只知其然不知其所以然。
gpt3 有96个attention head，96层transformer block，175b的参数，当然能fit得很好，但平心而论，这种纯暴力的巨型怪物，怎么可能是正确的模型？

这就像我们现在看托勒密的地心说，觉得很可笑，加了这么多补丁的一个丑陋怪物，根本无法解释，怎么可能是正确的物理模型？

所以现在的AI，还在黑暗的中世纪地心说统治的年代。
其实古希腊就有日心说，日心说和地心说一直在竞争，只是地心说更容易加本轮，所以自托勒密开始，就一直占统治地位。

相应的，AI从一开始就有理性主义的AI和经验主义AI两种范式，两者长期竞争，只是后者更加容易加参数，特别是“深度学习”这个极端品种，从2012年开始一直占统治地位。

将来历史一定会反转（因为AI的历史上已经出现过多次反转，所谓神经网络也一度无人问津），一定会有哥白尼+开普勒+牛顿的组合，把简单的理性主义AI重新做好，让人们知其所以然，彻底信服，到时候现在的这套AI就被扔进垃圾桶了。其中最最关键的是开普勒，要能提出椭圆代替圆这个关键想法。但是我们这代人可能看不见那一天了，也就是说，我们这一代和将来的几代，可能都要生存在地心说AI的阴影下。

但这不影响我们坚信，将来的AI，一定是简单、优美、可解释、有理论基础、能自圆其说的。

LLM只是第一步。
Agent会逐步起到更大的作用。

"地心说与日心说的对比事实上，在哥白尼最初提出日心说时，它的预测精度甚至不如发展了上千年的地心说。直到后来开普勒发现行星轨道是椭圆而非正圆，日心说的预测精度才真正碾压了地心说。特性地心说（托勒密系统）日心说（开普勒完善后）宇宙中心地球太阳预测精度高（通过无数个数学“补丁”实现）极高（符合真实物理规律）计算复杂度极其繁琐，需要计算大量重叠的圆圈相对简洁，使用椭圆轨道公式本质属性一种高级的数学拟合工具揭示了真实的物理本质"
世界本质是复杂而没有规律的！物理定理等等是妄图把世界影射到只有极少量参数的函数空间！事实上是徒劳的和错误的！如果说有了一点成绩也是偶然的，精心人择的，PS过的。

我差 你就是整个宇宙的中心 你不存在了 这个宇宙就不存在了 你就是一切 你就是宇宙

LLM发展恰恰表明，黑箱网络，权重因子，而非公式才是认知世界的最好办法！所以物理数学要正式退出世界舞台！

pascaldechin 写了： 昨天 20:43

地心说也很准的，因为加了很多本轮修正，参数极多，当然能fit得很准。
哥白尼时代的日心说因为没有意识到轨道是椭圆，所以很不准，也需要加本轮修正，所以竞争不过地心说，没有变成主流。
直到开普勒用椭圆代替圆，才一下子简化了日心说，不需要本轮了，参数极少就可以比美参数极多的地心说。
然后牛顿在此基础上提出万有引力，大家才明白为什么。从此没有人再提地心说了。

现在AI的发展，也是典型的“地心说”、唯象论，只负责“fit the data”，只知其然不知其所以然。
gpt3 有96个attention head，96层transformer block，175b的参数，当然能fit得很好，但平心而论，这种纯暴力的巨型怪物，怎么可能是正确的模型？

这就像我们现在看托勒密的地心说，觉得很可笑，加了这么多补丁的一个丑陋怪物，根本无法解释，怎么可能是正确的物理模型？

所以现在的AI，还在黑暗的中世纪地心说统治的年代。
其实古希腊就有日心说，日心说和地心说一直在竞争，只是地心说更容易加本轮，所以自托勒密开始，就一直占统治地位。

相应的，AI从一开始就有理性主义的AI和经验主义AI两种范式，两者长期竞争，只是后者更加容易加参数，特别是“深度学习”这个极端品种，从2012年开始一直占统治地位。

将来历史一定会反转（因为AI的历史上已经出现过多次反转，所谓神经网络也一度无人问津），一定会有哥白尼+开普勒+牛顿的组合，把简单的理性主义AI重新做好，让人们知其所以然，彻底信服，到时候现在的这套AI就被扔进垃圾桶了。其中最最关键的是开普勒，要能提出椭圆代替圆这个关键想法。但是我们这代人可能看不见那一天了，也就是说，我们这一代和将来的几代，可能都要生存在地心说AI的阴影下。

但这不影响我们坚信，将来的AI，一定是简单、优美、可解释、有理论基础、能自圆其说的。

地心说日心说类比AI是不对的。

现在AI的神经网络方向是对的。神经网络也有架构，架构可以改，可以优化。但是神经网络这个大方向是对的。

这是我的直觉。要说道理的话，我觉得它和人的神经网络是相似的。

允许中文及特殊字符 写了： 昨天 22:11

LLM发展恰恰表明，黑箱网络，权重因子，而非公式才是认知世界的最好办法！所以物理数学要正式退出世界舞台！

IEEE浮点数得过图灵奖。你弄个看看。AI现在也没整出来新的更适合GPU的系统。

罢黜百家，独尊超智！

TheMatrix 写了： 昨天 22:22

地心说日心说类比AI是不对的。

现在AI的神经网络方向是对的。神经网络也有架构，架构可以改，可以优化。但是神经网络这个大方向是对的。

这是我的直觉。要说道理的话，我觉得它和人的神经网络是相似的。

中世纪的人也和你一样，觉得地心说这么精准，当然是对的， 而且符合宗教解释。
地心说也有架构，也可以改，可以优化，所以你当然认为地心说这个大方向是对的。

pascaldechin 写了： 昨天 20:43

地心说也很准的，因为加了很多本轮修正，参数极多，当然能fit得很准。
哥白尼时代的日心说因为没有意识到轨道是椭圆，所以很不准，也需要加本轮修正，所以竞争不过地心说，没有变成主流。
直到开普勒用椭圆代替圆，才一下子简化了日心说，不需要本轮了，参数极少就可以比美参数极多的地心说。
然后牛顿在此基础上提出万有引力，大家才明白为什么。从此没有人再提地心说了。

现在AI的发展，也是典型的“地心说”、唯象论，只负责“fit the data”，只知其然不知其所以然。
gpt3 有96个attention head，96层transformer block，175b的参数，当然能fit得很好，但平心而论，这种纯暴力的巨型怪物，怎么可能是正确的模型？

这就像我们现在看托勒密的地心说，觉得很可笑，加了这么多补丁的一个丑陋怪物，根本无法解释，怎么可能是正确的物理模型？

所以现在的AI，还在黑暗的中世纪地心说统治的年代。
其实古希腊就有日心说，日心说和地心说一直在竞争，只是地心说更容易加本轮，所以自托勒密开始，就一直占统治地位。

相应的，AI从一开始就有理性主义的AI和经验主义AI两种范式，两者长期竞争，只是后者更加容易加参数，特别是“深度学习”这个极端品种，从2012年开始一直占统治地位。

将来历史一定会反转（因为AI的历史上已经出现过多次反转，所谓神经网络也一度无人问津），一定会有哥白尼+开普勒+牛顿的组合，把简单的理性主义AI重新做好，让人们知其所以然，彻底信服，到时候现在的这套AI就被扔进垃圾桶了。其中最最关键的是开普勒，要能提出椭圆代替圆这个关键想法。但是我们这代人可能看不见那一天了，也就是说，我们这一代和将来的几代，可能都要生存在地心说AI的阴影下。

但这不影响我们坚信，将来的AI，一定是简单、优美、可解释、有理论基础、能自圆其说的。

很有见地

其实现在计算成本大为降低，日心说的预测力说不定低于地心说了。所谓科学性和有用性还不就是fit the data (包括将来的数据，就是预测)。复杂，优美，一致性都是次要的。坚持地心说会发展出另一套互为一致的其他学说(不是AI实验不能复制相对论的出现).

允许中文及特殊字符 写了： 昨天 22:04

日心说的预测精度才真正碾压了地心说

vitro 写了： 今天 06:11

其实现在计算成本大为降低，日心说的预测力说不定低于地心说了。所谓科学性和有用性还不就是fit the data (包括将来的数据，就是预测)。复杂，优美，一致性都是次要的。坚持地心说会发展出另一套互为一致的其他学说(不是AI实验不能复制相对论的出现).

将来的数据还没有出现，你靠什么去fit?

预测之前，先要setup问题。你要预测什么？
以行星运动而言，你说要预测什么时间到什么位置。
可以，那么时间和位置用什么来表示？数字，对吧？

数字用什么来表示？
没有实数，你就什么都没有。

第二，
爱因斯坦和牛顿都说，物理学第一要素是简单。

doublethink 写了： 今天 10:19

将来的数据还没有出现，你靠什么去fit?

预测之前，先要setup问题。你要预测什么？
以行星运动而言，你说要预测什么时间到什么位置。
可以，那么时间和位置用什么来表示？数字，对吧？

数字用什么来表示？
没有实数，你就什么都没有。

第二，
爱因斯坦和牛顿都说，物理学第一要素是简单。

預測什麼看需求，不一定要用牛頓這類時空。比如星象學只關注球面投影，地心說加大數據就足夠。

照着你说的给个思路：
这些关于测量的理论本身就是人择的结果：哪些性质是要求遵守的是一个开放的问题, 上次提到的陶的intro to measure theory上来就讲过这些。大量的underdetermination, 不存在普世唯一最优选择。简单也是相对目的来说的。
下面这两例子就说了可加性不是绝对的（电阻并联情况下不可加），可加性的简单也不是放之四海而皆准要采纳它的考虑。
https://sites.pitt.edu/~jdnorton/teachi ... n_add.html

好，我们把这些fit the data的标准重新梳理一遍，比如有些以计算成本为由搁置或弱化的标准重新纳入一下，地心说说不定会胜出。

这讲的就是一个老生常谈的结论：任何判断都有个context。更大的context是科学史，完全可以想象历史不这么走，也可能是地心说推翻日心说。

doublethink 写了： 今天 10:19

将来的数据还没有出现，你靠什么去fit?

预测之前，先要setup问题。你要预测什么？
以行星运动而言，你说要预测什么时间到什么位置。
可以，那么时间和位置用什么来表示？数字，对吧？

数字用什么来表示？
没有实数，你就什么都没有。

第二，
爱因斯坦和牛顿都说，物理学第一要素是简单。

现在的AI已经是AGI了，你还在做梦出现新的牛顿。
新的牛顿就是现在的AI，它自己会继续优化它的架构。
神经网络一定是对的，但应该还没有最优化。人脑只用25瓦，与之相比，现在的AI太耗电了。
AI会自己想出办法，做到如何让它自己不那么耗电。估计也就几年之内，每个人手提电脑中的AI将比现在的GPT6更强大。

vitro 写了： 今天 11:09

照着你说的给个思路：
这些关于测量的理论本身就是人择的结果：哪些性质是要求遵守的是一个开放的问题, 上次提到的陶的intro to measure theory上来就讲过这些。大量的underdetermination, 不存在普世唯一最优选择。简单也是相对目的来说的。
下面这两例子就说了可加性不是绝对的（电阻并联情况下不可加），可加性的简单也不是放之四海而皆准要采纳它的考虑。
https://sites.pitt.edu/~jdnorton/teachi ... n_add.html

好，我们把这些fit the data的标准重新梳理一遍，比如有些以计算成本为由搁置或弱化的标准重新纳入一下，地心说说不定会胜出。

这讲的就是一个老生常谈的结论：任何判断都有个context。更大的context是科学史，完全可以想象历史不这么走，也可能是地心说推翻日心说。

Context这步不是我说的。是海德格尔说的。整一百年前。
今年存在与时间整百年。

shot 写了： 今天 12:15

现在的AI已经是AGI了，你还在做梦出现新的牛顿。
新的牛顿就是现在的AI，它自己会继续优化它的架构。
神经网络一定是对的，但应该还没有最优化。人脑只用25瓦，与之相比，现在的AI太耗电了。
AI会自己想出办法，做到如何让它自己不那么耗电。估计也就几年之内，每个人手提电脑中的AI将比现在的GPT6更强大。

有NP呢。NP保护人类。

shot 写了： 今天 12:15

现在的AI已经是AGI了，你还在做梦出现新的牛顿。
新的牛顿就是现在的AI，它自己会继续优化它的架构。
神经网络一定是对的，但应该还没有最优化。人脑只用25瓦，与之相比，现在的AI太耗电了。
AI会自己想出办法，做到如何让它自己不那么耗电。估计也就几年之内，每个人手提电脑中的AI将比现在的GPT6更强大。

中世纪的人类也是像你这样想的，托勒密体系的地心说已经非常精准了，能预测各种星辰运动，还可以继续优化（再加本轮），太强大了，对人类生活太有用了，所以它一定是对的。
这就是所谓鼠目寸光，井底之蛙是也。

doublethink 写了： 今天 13:08

Context这步不是我说的。是海德格尔说的。整一百年前。
今年存在与时间整百年。

提个建议啊，拍照的时候，把页面按住，这样才能读啊。

三农 写了： 今天 13:14

提个建议啊，拍照的时候，把页面按住，这样才能读啊。

网上有下载。拍照你可以看章节。页码。
德语原作page 227前后。中英文翻译一般会带页码。