好,谢谢。我担心引起骂战
闲说Chomsky Hierarchy和马尔可夫链
版主: verdelite, TheMatrix
-
- 著名点评
heteroclinic 的博客 - 帖子互动: 42
- 帖子: 3926
- 注册时间: 2022年 10月 31日 00:35
#43 Re: 闲说Chomsky Hierarchy和马尔可夫链
扣的越细,发现初始条件越多。最后都是千老看书不仔细的错。
我对简化真直表比较欣赏,不太清楚从真值表怎么走到后来的助记符号的turing church theisis 和一泥阿可计算大炮弹道有什么联系?
我很长时间有一个问题有形式语言或什么来理论上表诉地址的跳转,调用返回这些基本操作。不是一个问题了。
更深入就是回答机器不做修改能否处理overflow和underflow。
chomski 是个语言学家,能不能帮助姚兴藤或者两个大家合作点什么。太开放的问题了。
具体的问题都不是技术的问题。不具体的问题是理论的问题。
我觉得就象NETFLIX这种地方也就是有这样的资源,大家测测能干这样的事情。运气好的组或者说有洞察力的组,成了。没成的滚蛋或者依托非技术优势继续混着。
我的具体两个问题:
不太清楚从真值表怎么走到后来的助记符号的?
turing church theisis 和一泥阿可计算大炮弹道有什么联系?
更深入就是回答机器不做修改能否处理overflow和underflow,能否证明或证反?
-- edited to three questions.
我对简化真直表比较欣赏,不太清楚从真值表怎么走到后来的助记符号的turing church theisis 和一泥阿可计算大炮弹道有什么联系?
我很长时间有一个问题有形式语言或什么来理论上表诉地址的跳转,调用返回这些基本操作。不是一个问题了。
更深入就是回答机器不做修改能否处理overflow和underflow。
chomski 是个语言学家,能不能帮助姚兴藤或者两个大家合作点什么。太开放的问题了。
具体的问题都不是技术的问题。不具体的问题是理论的问题。
我觉得就象NETFLIX这种地方也就是有这样的资源,大家测测能干这样的事情。运气好的组或者说有洞察力的组,成了。没成的滚蛋或者依托非技术优势继续混着。
我的具体两个问题:
不太清楚从真值表怎么走到后来的助记符号的?
turing church theisis 和一泥阿可计算大炮弹道有什么联系?
更深入就是回答机器不做修改能否处理overflow和underflow,能否证明或证反?
-- edited to three questions.
#44 Re: 闲说Chomsky Hierarchy和马尔可夫链
没有关系。
丘奇是图灵的博士导师。老牛个人认为图灵不好意思不引丘奇的理论。
但λ运算和图灵机(以及Circuit)之间的关系,老牛个人认为,就像基督教的三位一体。没人能够证明,但信仰它们能力一样。
对现代编程而言,λ运算及其递归等更有用一点。而Circuit(苏联人搞的)对硬件更有用。
总有邪魔外道对三位一体正统信仰提出挑战。毕竟没有被严格证明,就不是科学。只是宗教信仰。
图灵机对证明你们的逻辑判定真假等很有用。但实现某种逻辑或数学计算,还是Circuit或λ运算更直观。
#45 Re: 闲说Chomsky Hierarchy和马尔可夫链
嗯,想起一些东西。这三都被发展成完整的体系。
“西方”现在以图灵机为主流,描述判定性可计算性计算复杂性等。
老牛有一本北大的出版,以λ运算描述判定性可计算性等等。这也是老牛年轻时候对北大理论敬仰的一个源头。不知道是不是谁和普林斯顿有什么关系带回的北大。
Circuit一开始是苏联在搞。也发展出计算复杂性等问题。现在的神经网老牛认为是Circuit的延伸。不排除是前苏联科学家移民带到美加的。
“西方”现在以图灵机为主流,描述判定性可计算性计算复杂性等。
老牛有一本北大的出版,以λ运算描述判定性可计算性等等。这也是老牛年轻时候对北大理论敬仰的一个源头。不知道是不是谁和普林斯顿有什么关系带回的北大。
Circuit一开始是苏联在搞。也发展出计算复杂性等问题。现在的神经网老牛认为是Circuit的延伸。不排除是前苏联科学家移民带到美加的。
牛河梁 写了: 2025年 2月 20日 13:18 没有关系。
丘奇是图灵的博士导师。老牛个人认为图灵不好意思不引丘奇的理论。
但λ运算和图灵机(以及Circuit)之间的关系,老牛个人认为,就像基督教的三位一体。没人能够证明,但信仰它们能力一样。
对现代编程而言,λ运算及其递归等更有用一点。而Circuit(苏联人搞的)对硬件更有用。
总有邪魔外道对三位一体正统信仰提出挑战。毕竟没有被严格证明,就不是科学。只是宗教信仰。
图灵机对证明你们的逻辑判定真假等很有用。但实现某种逻辑或数学计算,还是Circuit或λ运算更直观。
-
- 著名点评
heteroclinic 的博客 - 帖子互动: 42
- 帖子: 3926
- 注册时间: 2022年 10月 31日 00:35
#46 Re: 闲说Chomsky Hierarchy和马尔可夫链
牛河梁 写了: 2025年 2月 20日 13:18 没有关系。
丘奇是图灵的博士导师。老牛个人认为图灵不好意思不引丘奇的理论。
但λ运算和图灵机(以及Circuit)之间的关系,老牛个人认为,就像基督教的三位一体。没人能够证明,但信仰它们能力一样。
对现代编程而言,λ运算及其递归等更有用一点。而Circuit(苏联人搞的)对硬件更有用。
总有邪魔外道对三位一体正统信仰提出挑战。毕竟没有被严格证明,就不是科学。只是宗教信仰。
图灵机对证明你们的逻辑判定真假等很有用。但实现某种逻辑或数学计算,还是Circuit或λ运算更直观。
老牛是个热心肠,重在参与,更重要是多年耕耘。看书还要做题,通常一本书做三五道题之后,能够有吃进去了的感觉。比如传热学,密码学啥的,这两门没有老师讲,想自学基本不可能,有天赋智商高的可以试试,不如去买TQQQ现在就可以练习stochastics.
以上为随笔。说书的一张嘴,表不了两家。
你的这段比较接近学术探讨,节约别人的时间,力争做点有意义的事情。我今天早晨突然想到的,图灵这一套下来,到计算机系的具体课程是compiler design.所以这个路径搞得是你写了一堆,几百几千行,编译器来验证语法是否符合定义。这和你的程序要干什么并无直接关系。比如考过CPA不等于你是老会计。四大的牌子拦不住你造假帐。程序要干什么,是算法的范畴,比如计算大炮的弹道,计算斐波纳奇。图灵机本身并不是设计为提供计算斐波纳奇的手段。估计99.999%的人都是糊里糊涂的。
算法和有限状态无线状态没啥关系,但我觉得最少要有cardinality 可以查数,可以预期结果并且预算开销。
有点吹了,清者自清,愿者上钩。
#47 Re: 闲说Chomsky Hierarchy和马尔可夫链
以下纯吹水闲聊。
1/ 图灵机这玩意除非像老牛这种闲得无聊,连古文字(如甲骨文、线形文字B)、古人类基因,古地理,古环境,古文明都研究了个遍,还找不到有什么事可以做的,否则不建立大家浪费时间。老牛也不污染网络环境了。就像牛战友问过老牛P vs NP有什么意义。老牛的回答是(可以说)没什么(现实)意义。否则早就被研究出来了。当然,理论上有1米的克雷奖。不过老牛看来,1米和5毛没什么本质区别。
2/ 股市并不随机。或者说老牛的信仰/数学方法里并没有/不需要随机。或者说不确定和确定没啥区别,只在于你怎么看。随机只在于你不知道(不足以覆盖所有知识)所以引入的。如果有朝一日技术发展把所有边角都覆盖了,不要(对随机性消失)感到神奇。
3/ 就像人类的知识是有限的,参与股市交易者也是有限的。总有可能有一天有如足够大的LLM把人类知识都覆盖了。甚至还有剩余的空间覆盖一些逻辑举一反三。编写了一个证明。然后现今人类还(没人)看得懂。或者捕捉(抽样)到所有(足够多)对手的股市操作,这不就成了Day Trade。
4/ 老牛不以像GPT为耻。就像机器下围棋下赢人类冠军。其中一步没人看得懂。老牛训练机器玩游戏也经历过。虽然评估函数是老牛定义的,但下出来的一些步骤老牛就没看懂。当然,老牛不懂没关系,重要的是能赢。
5/ 同理回到老牛关于Circuit、定理证明等的谬论。老牛说了:
5a/ 人脑/神经网络是一个Circuit;
5b/ 有(MIT CS教授)异端邪说说Circuit可以做图灵机不可判定的事情。但是显然,由于图灵机判定不了,因此人(逻辑)也无法证明/相信这个Circuit是对的;
5c/ 问题在于,人(个体)是怎么证明大定理(甚至不能由已知定理推理出来的)推进人类前进的呢。这就是上面5a和5b的重要所在。
5d/ 假如某个白痴,如牛和羊,知道P = NP,甚至今年写了一篇文章。但是世人皆傻,没有活人(trained NN)能够验证这个证明是正确的。怎么办。
5e/ 其实历史告诉我们很简单。就是时间。等这些被没有老牛文章pre trained的大脑都死了。新的NN在trained的时候包含了老牛的文章,有同意的有不同意的。但只要老牛是对的(如相对论)(即使无法用现有逻辑推理出来),这个不同意的会被(自然)选择得越来越少。老牛的方法和结论就会从无人接收到有朝一日成为主流。哪怕为此引入公理(信仰)(像光速最高)。
6/ BTW:老牛的密码是自学的。大多数CS课程老牛都是自学的,包括编译。A*算法、专家系统啥的老牛中学时候捣鼓。在大学里也没有上过什么课。所以理论上老牛的最高学历是烂笑土本。其实可能只是旁听过几门大学课程。如果对CS有什么了解和“科班”学生有什么不同。不要奇怪。也许是逆练九阴真经的后果。
1/ 图灵机这玩意除非像老牛这种闲得无聊,连古文字(如甲骨文、线形文字B)、古人类基因,古地理,古环境,古文明都研究了个遍,还找不到有什么事可以做的,否则不建立大家浪费时间。老牛也不污染网络环境了。就像牛战友问过老牛P vs NP有什么意义。老牛的回答是(可以说)没什么(现实)意义。否则早就被研究出来了。当然,理论上有1米的克雷奖。不过老牛看来,1米和5毛没什么本质区别。
2/ 股市并不随机。或者说老牛的信仰/数学方法里并没有/不需要随机。或者说不确定和确定没啥区别,只在于你怎么看。随机只在于你不知道(不足以覆盖所有知识)所以引入的。如果有朝一日技术发展把所有边角都覆盖了,不要(对随机性消失)感到神奇。
3/ 就像人类的知识是有限的,参与股市交易者也是有限的。总有可能有一天有如足够大的LLM把人类知识都覆盖了。甚至还有剩余的空间覆盖一些逻辑举一反三。编写了一个证明。然后现今人类还(没人)看得懂。或者捕捉(抽样)到所有(足够多)对手的股市操作,这不就成了Day Trade。
4/ 老牛不以像GPT为耻。就像机器下围棋下赢人类冠军。其中一步没人看得懂。老牛训练机器玩游戏也经历过。虽然评估函数是老牛定义的,但下出来的一些步骤老牛就没看懂。当然,老牛不懂没关系,重要的是能赢。
5/ 同理回到老牛关于Circuit、定理证明等的谬论。老牛说了:
5a/ 人脑/神经网络是一个Circuit;
5b/ 有(MIT CS教授)异端邪说说Circuit可以做图灵机不可判定的事情。但是显然,由于图灵机判定不了,因此人(逻辑)也无法证明/相信这个Circuit是对的;
5c/ 问题在于,人(个体)是怎么证明大定理(甚至不能由已知定理推理出来的)推进人类前进的呢。这就是上面5a和5b的重要所在。
5d/ 假如某个白痴,如牛和羊,知道P = NP,甚至今年写了一篇文章。但是世人皆傻,没有活人(trained NN)能够验证这个证明是正确的。怎么办。
5e/ 其实历史告诉我们很简单。就是时间。等这些被没有老牛文章pre trained的大脑都死了。新的NN在trained的时候包含了老牛的文章,有同意的有不同意的。但只要老牛是对的(如相对论)(即使无法用现有逻辑推理出来),这个不同意的会被(自然)选择得越来越少。老牛的方法和结论就会从无人接收到有朝一日成为主流。哪怕为此引入公理(信仰)(像光速最高)。
6/ BTW:老牛的密码是自学的。大多数CS课程老牛都是自学的,包括编译。A*算法、专家系统啥的老牛中学时候捣鼓。在大学里也没有上过什么课。所以理论上老牛的最高学历是烂笑土本。其实可能只是旁听过几门大学课程。如果对CS有什么了解和“科班”学生有什么不同。不要奇怪。也许是逆练九阴真经的后果。
heteroclinic 写了: 2025年 2月 20日 15:23 老牛是个热心肠,重在参与,更重要是多年耕耘。看书还要做题,通常一本书做三五道题之后,能够有吃进去了的感觉。比如传热学,密码学啥的,这两门没有老师讲,想自学基本不可能,有天赋智商高的可以试试,不如去买TQQQ现在就可以练习stochastics.
以上为随笔。说书的一张嘴,表不了两家。
你的这段比较接近学术探讨,节约别人的时间,力争做点有意义的事情。我今天早晨突然想到的,图灵这一套下来,到计算机系的具体课程是compiler design.所以这个路径搞得是你写了一堆,几百几千行,编译器来验证语法是否符合定义。这和你的程序要干什么并无直接关系。比如考过CPA不等于你是老会计。四大的牌子拦不住你造假帐。程序要干什么,是算法的范畴,比如计算大炮的弹道,计算斐波纳奇。图灵机本身并不是设计为提供计算斐波纳奇的手段。估计99.999%的人都是糊里糊涂的。
算法和有限状态无线状态没啥关系,但我觉得最少要有cardinality 可以查数,可以预期结果并且预算开销。
有点吹了,清者自清,愿者上钩。
x1
