从大语言模型的角度谈学习是怎么回事

对应老买买提的军事天地,观点交锋比较激烈。因为此版帖子太多,所以新帖不出现在首页新帖列表,防止首页新帖刷屏太快。

版主: Softfist

回复
Caravel楼主
论坛元老
论坛元老
Caravel 的博客
帖子互动: 545
帖子: 24279
注册时间: 2022年 7月 24日 17:21

#1 从大语言模型的角度谈学习是怎么回事

帖子 Caravel楼主 »

大语言模型就是一个高维条件概率分布

人脑虽然具体实现机理不一样 但是结果是一样的

也是条件概率

所谓学习,就是对齐条件概率

看到书上一个推导看不懂

说明你的条件概率根据条件得到了A,或者B,书上却是C

这时候很痛苦 怎么回事 不能理解

这时候 不用担心 继续念书

和念经一样

等你的条件概率跟书本对齐了

你就懂了

这就是醍醐灌顶顿悟了
头像
pseudo(small man)
论坛点评
论坛点评
pseudo 的博客
帖子互动: 140
帖子: 2578
注册时间: 2022年 7月 28日 10:04

#2 Re: 从大语言模型的角度谈学习是怎么回事

帖子 pseudo(small man) »

Caravel 写了: 2025年 7月 8日 12:15 所谓学习,就是对齐条件概率
现在的大模型对齐,只是在检测了相对近的距离上的相关性。

而人的大脑可以在变长周期,甚至无限长的区间上产生相关性的直觉。
头像
verdelite(众傻之傻)
论坛元老
论坛元老
帖子互动: 917
帖子: 22643
注册时间: 2022年 7月 21日 23:33

#3 Re: 从大语言模型的角度谈学习是怎么回事

帖子 verdelite(众傻之傻) »

Caravel 写了: 2025年 7月 8日 12:15 大语言模型就是一个高维条件概率分布

人脑虽然具体实现机理不一样 但是结果是一样的

也是条件概率

所谓学习,就是对齐条件概率

看到书上一个推导看不懂

说明你的条件概率根据条件得到了A,或者B,书上却是C

这时候很痛苦 怎么回事 不能理解

这时候 不用担心 继续念书

和念经一样

等你的条件概率跟书本对齐了

你就懂了

这就是醍醐灌顶顿悟了
你这是线性模型;真实世界里面,因为没有办法实现那么高维度的线性运算,需要进行化简。怎么化简就是个问题了,现在的人搞LLM瞎JB化简,其实化简的方法,进化论早就做进大脑里面了。
没有光子;也没有量子能级,量子跃迁,量子叠加,量子塌缩和量子纠缠。
头像
huangchong(净坛使者)
论坛元老
论坛元老
2023-24年度优秀版主
帖子互动: 3590
帖子: 56453
注册时间: 2022年 7月 22日 01:22

#4 Re: 从大语言模型的角度谈学习是怎么回事

帖子 huangchong(净坛使者) »

还是不大一样 人的学习不需要把天下书都看尽了 人有种逻辑本能 会自己总结规律寻找逻辑自洽性

llm这样学习出来的 就是那种打吊针上大学的刷题家
Caravel楼主
论坛元老
论坛元老
Caravel 的博客
帖子互动: 545
帖子: 24279
注册时间: 2022年 7月 24日 17:21

#5 Re: 从大语言模型的角度谈学习是怎么回事

帖子 Caravel楼主 »

huangchong 写了: 2025年 7月 8日 13:08 还是不大一样 人的学习不需要把天下书都看尽了 人有种逻辑本能 会自己总结规律寻找逻辑自洽性

llm这样学习出来的 就是那种打吊针上大学的刷题家
人脑还有些绝活大模型不会

但是大方向就是这样
happens
论坛支柱
论坛支柱
帖子互动: 306
帖子: 9829
注册时间: 2022年 8月 29日 23:38

#6 Re: 从大语言模型的角度谈学习是怎么回事

帖子 happens »

Caravel 写了: 2025年 7月 8日 13:21 人脑还有些绝活大模型不会

但是大方向就是这样
大模型可能只是模拟了记忆是怎样记录的。
da1gaku
论坛元老
论坛元老
帖子互动: 357
帖子: 18077
注册时间: 2022年 7月 23日 23:35

#7 Re: 从大语言模型的角度谈学习是怎么回事

帖子 da1gaku »

很多学习都是间接的。对人和AI都是如此。

比如你做一道题做不出来,于是接下来的几天每天看黄片,让大脑神经元连接发生改变,也有一定概率导致你会做题了。
用户168
著名点评
著名点评
帖子互动: 220
帖子: 4027
注册时间: 2024年 2月 16日 21:11

#8 Re: 从大语言模型的角度谈学习是怎么回事

帖子 用户168 »

古人写书不用标点符号。他们认为只要读书人喝书同频了,自然把书读懂了。
da1gaku
论坛元老
论坛元老
帖子互动: 357
帖子: 18077
注册时间: 2022年 7月 23日 23:35

#9 Re: 从大语言模型的角度谈学习是怎么回事

帖子 da1gaku »

用户168 写了: 2025年 7月 8日 14:04 古人写书不用标点符号。他们认为只要读书人喝书同频了,自然把书读懂了。
说话也没有标点符号,但是不影响理解。当然说话的停顿和语调可以帮助断句,但不总是如此。
FGH
论坛精英
论坛精英
帖子互动: 99
帖子: 6907
注册时间: 2022年 7月 25日 16:30

#10 Re: 从大语言模型的角度谈学习是怎么回事

帖子 FGH »

学习包括研究就是一个不断模式匹配的过程。
derry
知名人士
知名人士
帖子互动: 2
帖子: 73
注册时间: 2023年 9月 27日 12:42

#11 Re: 从大语言模型的角度谈学习是怎么回事

帖子 derry »

知道这个假设也无卵用。能指导你学习么?
头像
starbox
论坛元老
论坛元老
帖子互动: 726
帖子: 25158
注册时间: 2022年 7月 22日 20:30

#12 Re: 从大语言模型的角度谈学习是怎么回事

帖子 starbox »

huangchong 写了: 2025年 7月 8日 13:08 还是不大一样 人的学习不需要把天下书都看尽了 人有种逻辑本能 会自己总结规律寻找逻辑自洽性

llm这样学习出来的 就是那种打吊针上大学的刷题家
人类进化出逻辑,用了几亿年的时间,从草履虫开始。

大模型发展出逻辑,用了不到10年



头像
huangchong(净坛使者)
论坛元老
论坛元老
2023-24年度优秀版主
帖子互动: 3590
帖子: 56453
注册时间: 2022年 7月 22日 01:22

#13 Re: 从大语言模型的角度谈学习是怎么回事

帖子 huangchong(净坛使者) »

starbox 写了: 2025年 7月 8日 16:32 人类进化出逻辑,用了几亿年的时间,从草履虫开始。

大模型发展出逻辑,用了不到10年
确实 很可怕
回复

回到 “军事天地(Military)”