AI是比互联网更严重的泡沫, 两位教授如此解读, 一旦泡沫破裂,将会是一次非常巨大的崩盘
版主: Softfist
#21 Re: AI是比互联网更严重的泡沫, 两位教授如此解读, 一旦泡沫破裂,将会是一次非常巨大的崩盘
只要你鳖还在追捧,将军们就不会是击鼓传花的最后一环
中美大船,相向而行,无可奈何花落去。
夫妻梦碎,卖国求辱,同房丫鬟也将就。
沐猴而冠, 傻不厌诈,搬起石头砸自己脚.
三分像人,七分像鬼,英雄做不了奴才也难当
#24 Re: AI是比互联网更严重的泡沫, 两位教授如此解读, 一旦泡沫破裂,将会是一次非常巨大的崩盘
人工智能科学家杨立昆表示,LLM的“智能”程度很大程度上取决于训练数据,而这样的模型无法达到人类智能水平,甚至被称作“死胡同”。数据回顾中,多个学者阐明了LLM的局限性:如缺乏实时学习能力、静态记忆管理等,不符合人类大脑学习的特性。
-
pseudo(small man)
- 论坛点评

pseudo 的博客 - 帖子互动: 153
- 帖子: 2742
- 注册时间: 2022年 7月 28日 10:04
#26 Re: AI是比互联网更严重的泡沫, 两位教授如此解读, 一旦泡沫破裂,将会是一次非常巨大的崩盘
像鳖这样很土的,试图用AI来支撑制造业,用于工业生产的各个方面。可能是AI的正确道路。stm32 写了: 2024年 10月 22日 13:37 在通往人类水平智能的道路上,LLM基本上是一种"off-ramp"(岔路)、"distraction"(干扰)和"dead end"(死胡同)。这意味着LLM并不能有效推动我们实现人类水平的人工智能,反而可能会分散我们的注意力,让我们误入歧途。
x1
#27 Re: AI是比互联网更严重的泡沫, 两位教授如此解读, 一旦泡沫破裂,将会是一次非常巨大的崩盘
为了客观评价LLM的数学能力极限,苹果的研究者们开发了一个名为GSM-Symbolic的数据集。
GSM-Symbolic将GSM8K的题目进行了修改,例如改变了索菲这个名字,侄子这个家人的称谓,以及各种玩具的多少(数字)。
这样一来,就可以产生出很多个看起来全新,但实际上却是具有相同内核的题目。
不管开源闭源,都会因题目换皮表现更差
实验结果很有趣:数学题干一换,很多LLM就不会了!
GSM-Symbolic将GSM8K的题目进行了修改,例如改变了索菲这个名字,侄子这个家人的称谓,以及各种玩具的多少(数字)。
这样一来,就可以产生出很多个看起来全新,但实际上却是具有相同内核的题目。
不管开源闭源,都会因题目换皮表现更差
实验结果很有趣:数学题干一换,很多LLM就不会了!
#28 Re: AI是比互联网更严重的泡沫, 两位教授如此解读, 一旦泡沫破裂,将会是一次非常巨大的崩盘
仅仅是更改一下专有名词,就会存在如此大的差异,这种现象实在是令人担忧:看来,LLM的确没有真正理解数学概念。
即使理解了数学题目的小学生,都不会因为题目换汤不换药,就不会做了
当模型面对的题目变化时,例如题目从「打电话每分钟10分钱,打60分钟多少钱?」变为「打电话前10分钟每分钟10分钱,之后每分钟8分钱,如此打60分钟电话费多钱?」,大模型回答的准确性降低,方差变大,这就意味着,LLM的性能极不稳定,可靠性越来越差。
当模型面对增加了和题目无关的论述的题目,性能的下降更是惨不忍睹。
这是由于模型会将无关的论述当成需要操作的步骤,从而画蛇添足地回答错误。
也就是说,当今性能最强大的模型,也依然无法真正理解数学问题。
即使理解了数学题目的小学生,都不会因为题目换汤不换药,就不会做了
当模型面对的题目变化时,例如题目从「打电话每分钟10分钱,打60分钟多少钱?」变为「打电话前10分钟每分钟10分钱,之后每分钟8分钱,如此打60分钟电话费多钱?」,大模型回答的准确性降低,方差变大,这就意味着,LLM的性能极不稳定,可靠性越来越差。
当模型面对增加了和题目无关的论述的题目,性能的下降更是惨不忍睹。
这是由于模型会将无关的论述当成需要操作的步骤,从而画蛇添足地回答错误。
也就是说,当今性能最强大的模型,也依然无法真正理解数学问题。
-
pseudo(small man)
- 论坛点评

pseudo 的博客 - 帖子互动: 153
- 帖子: 2742
- 注册时间: 2022年 7月 28日 10:04
#36 Re: AI是比互联网更严重的泡沫, 两位教授如此解读, 一旦泡沫破裂,将会是一次非常巨大的崩盘
这个我们每个人可能都可以感觉到。
比如,油管的推荐算法就很差。我个人感受是:油管的推荐算法在不久前(半年前)改过一次。以前还好些,最新版的推荐广度很差,更集中在推荐和你看过的类似的东东。发散度差,不太会推荐点击率高或评价高的片子。
油管的这种算法就是养猪。
#40 Re: AI是比互联网更严重的泡沫, 两位教授如此解读, 一旦泡沫破裂,将会是一次非常巨大的崩盘
AI这种大数据训练的,很适合于重复性行为,比如自动驾驶。
虽然没有创新性和思维性,但是你想,能彻底自动驾驶了已经算是巨大的进步了。
还有看病,绝大部分病都是凭经验重复性的治疗。
可能以后,只有新出现的病症需要高水平医生去研究创新。
还有艺术类的,比如电影,通过模型训练,如果能用AI创造出现在水平的电影就已经很牛了,为什么非要考虑创新型
虽然没有创新性和思维性,但是你想,能彻底自动驾驶了已经算是巨大的进步了。
还有看病,绝大部分病都是凭经验重复性的治疗。
可能以后,只有新出现的病症需要高水平医生去研究创新。
还有艺术类的,比如电影,通过模型训练,如果能用AI创造出现在水平的电影就已经很牛了,为什么非要考虑创新型
omicron 写了: 2024年 10月 22日 08:00 互联网还可以普及,没啥根本性障碍
现在的AI方向,根本不可能成功,没前途
神经网络根本不是大脑思维的结构,灵魂才是,现在AI的方向,完全错误





