#41 Re: 很多人天天AIAI，不知道核心就是个大拟合模型吧
发表于 ： 2025年 10月 7日 15:12
自信一点，现在LLM训练需要多少个计算小时？
你觉得多少合适？
自信一点，现在LLM训练需要多少个计算小时？
你觉得多少合适？
生物大脑就是个大拟合模型，用碳基的，更省电省油，也许人类以前也有连网版，就是上古的修仙版，不知道为什么给断了，估计能量不够。人类现在搞不出来碳基省油版，只好先搞个硅基的费电版的李硅
toddj 写了： 2025年 10月 7日 15:29生物大脑就是个大拟合模型，用碳基的，更省电省油，也许人类以前也有连网版，就是上古的修仙版，不知道为什么给断了，估计能量不够。人类现在搞不出来碳基省油版，只好先搞个硅基的费电版的李硅
everything is possible
grus 写了： 2025年 10月 7日 12:43有各种说法。人脑本质上也是个大拟合模型。目前AI和人脑相比，还有几个短板
- GPT是pre-trained，训练之后就是静态模型，停止学习了。人脑永远处于训练状态。
- 目前AI的输入是数字化的互联网信息，人脑信息主要直接来源于感知的物理世界，也包含互联网。
- 人脑包括成千上万的子网络，这些子网络或多或少是专门化的。目前的AI结构复杂度还有不少距离。
不管AI还是人脑，本质上都是通过拟合来获取物理世界中事件之间的相关性。人和蚂蚁，一个是大模型，另一个小点。
但人脑显然不需要这么数据来训练，小baby给她吃一次苹果就认识了，见过一次狗然后马路上碰见狗就都能知道喊“狗狗！”。现在有没有理论解释为什么人脑需要如此少的数据？还是只是我们觉得人脑需要的数据少其实不然（味觉，视觉，触觉这些AI无法接触到的数据量其实很大？）
grus 写了： 2025年 10月 7日 13:16智能这个东西也没必要那么神秘化。像虎鲸，八成觉得大白鲨都是蠢货，个头看着大，随便搞搞就被我弄死了，笨得不行。
智能本质上就是信息在神经网络上的映射；物理事件的时间序列就定义了相关性甚至因果关系。不管AI还是人脑，都是用来获取这些相关性的。直接结果就是Garbage in, garbage out。洗脑就是根据这个原理；只要重复次数多，量大，想洗成啥都没问题。
智能可能是映射，但意识呢？我觉得后者才是没法解释的/没有理论的。
benadryl 写了： 2025年 10月 7日 15:51但人脑显然不需要这么数据来训练，小baby给她吃一次苹果就认识了，见过一次狗然后马路上碰见狗就都能知道喊“狗狗！”。现在有没有理论解释为什么人脑需要如此少的数据？还是只是我们觉得人脑需要的数据少其实不然（味觉，视觉，触觉这些AI无法接触到的数据量其实很大？）
这个数据量其实很大啊，有video,嗅觉，肌肉，有吃完了饱高兴，还有家长鼓励等等的的各种数据。
假如你有过小孩，看过一些育儿书的话，你会知道婴儿那套操作系统和成人完全不同。比如说婴儿连视力这件事，都是后天漫长的几年间逐步形成的。刚出生几个月的时候，甚至只能看清眼前一米之类，之后逐步发展。这里的发展，并不是或者不只是眼睛的发育，而是脑子里视觉神经的发育，假如这期间某个眼睛遮挡或者不知道为什么只有单眼的视力被形成，之后就是眼睛完好，视力也会很弱，叫弱视。听觉，语言等等，都有类似的现象。
这个过程，听起来是不是很熟悉。
benadryl 写了： 2025年 10月 7日 15:51但人脑显然不需要这么数据来训练，小baby给她吃一次苹果就认识了，见过一次狗然后马路上碰见狗就都能知道喊“狗狗！”。现在有没有理论解释为什么人脑需要如此少的数据？还是只是我们觉得人脑需要的数据少其实不然（味觉，视觉，触觉这些AI无法接触到的数据量其实很大？）
这个问题问的好
人和狗之间可以交流的，眼神，语言，抚摸，甚至气味。
而且可以产生感情的。 可以一起玩的。
狗需要人养，狗还可以帮助人。
远远不是几张图片可以解释的。
显而易见的事，民科都知道这是搬起巨石砸自己脚（不排除别有用心）
三体人早说了，
you are bugs
就是硅基和碳基，没啥本质区别
不对，碳基数据密度和硅基差N个数量级
很多年前，我认为iPod不就是一个MP3播放器嘛，没什么了不起，我买的sandisk播放器也一样能播放mp3；后来我觉得iPhone不就是一个电话嘛，和我的Nokia XpressMusic功能差不多；再后来，我觉得特斯拉不就是一个电动玩具嘛，和我家小孩小时候的玩具电池没区别；然后，就没有然后了。。。。
当年，大门说用Excel算数很方便，自助餐说，不如他手头的笔和纸好用。。。。
lithographicalized的wafer上的那些玩意儿相当幼稚
你说的很好，也就是说现在的“喂数据”的方式太单一，我们的AI只能获得文字，图像数据。归根结底是我们生产出来的硅基“生命”还是太简单了，没有味觉，嗅觉，触觉，肌肉，也就不能形成“吃到甜的很欣慰”这种碳基生物的最本能的数据反馈。不过这似乎不影响我们先让我们生产出来的硅基AI先去做他们擅长的，数据处理，语言模仿等。接下来需要材料科学，传感技术的飞跃，才能形成更I/O的多样性，那么真正的人工智能就不远了。当然一切前提就是我们对智能的理解没有误入歧途。
zy2024 写了： 2025年 10月 7日 15:59这个问题问的好
人和狗之间可以交流的，眼神，语言，抚摸，甚至气味。
而且可以产生感情的。 可以一起玩的。
狗需要人养，狗还可以帮助人。远远不是几张图片可以解释的。
我上面已经回复的，这说明我们现在的AI还是I/O太单一，等材料传感技术发达了，可以喂触觉听觉味觉视觉等数据的时候会不会真的人工智能就出现了？
我是说人脑就是碳基大模型而已
任何东西都是模型，前面可以加个大
人们都知道ML模型本来就是拟合，如同前面有个帖子更一针见血地指出 "其实都是一大推0101"，但是如果有人真这样归纳计算机的产出，就成了庸俗化的理解，因为它早就在那个基础上发展开了。
用人类智能的标准和定义去否定AI智能，是误区。所谓“AI 离智能还十万八千里”也是掉入这个误区的无稽之谈。 从0101起源上看也不可能成为同样的“智能”，AI与人类智能各有优势，本就不必同日而语。AI 与人类智能各有所长，条条大路通罗马，趋向殊途同归就好。AI在奥数竞赛拿到金奖，打败绝大部分人的智能，就是殊途同归的例子之一，虽然它并没有直接涉及人类智能。
在应用上，AI取代人类工作只会越来越多，作为人的助理也越来越多，这就足够了。在这个意义上，AI虽有泡沫，但AI不是泡沫。