Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？

[FoxMe]

因为图灵不是心理学家。智能是个量，有IQ为60的，也有IQ为150的人。你不能说前者没有智能，对不。所以只要能干一点有智能的事的算法，就有智能。

数学公式，再复杂，也没有智能。不会运行的东西都没有智能。智能是一种能力。公式不能运行。运行公式的，要么是电脑，或者人脑，这些才能运行。

数学公式被认为是人类共享的知识，连专利都不能申请。算法可以。

好，所见略同。

[FoxMe]

这个方法我想到的潜力是用于再抽象：
生成图片 ----> 生成（生成图片）的规则
生成文本 ----> 生成（生成文本）的规则

生成图片这个问题，自然的想法是把图片打碎成components，鼻子，眼睛，或者更小的线条也行，然后再重新组合。但是就组不出有意义的图片了。这个方法非常漂亮地解决了这个问题。我觉得可以再抽象。图片，规则，都是component有意义的东西，打散了再组合就不行，但是以这种方式就可以。

图片 ----> 规则 ----> 规则的规则 ...

人工智能就是要提高抽象层次，不怕太高，就怕不高。就好像人工智能不怕过拟合。现在是苦于不知道怎么用于抽象。

Duffusion model讲穿了很简单，就是把SDE和神经网络组合起来，类似更高层次的1+1=2。难点是怎么想到这一点。

假设有一台机器知道所有的数学公式（不久的将来应该可行），如果给它一项任务，它能用数学公式设计出一个算法完成这项任务，那就是真正的人工智能了。现在还是靠人脑设计。

[hci]

中国传统文化很讲究用词精准的。名不正则言不顺。

电脑，公式，这些名字已经把东西的本质放进去了。不是乱来的，不是现在不肖子孙所言：名字只是个符号。那是胡说八道。

好，所见略同。

[FoxMe]

我不是说了嘛，Fokker Planck方程描述的是一个随机微分方程的解，也就是一个随机过程，的概率密度函数的时间演化。

当然它也有其他的来源。

属实。学过随机微分方程的人都知道。

最简单的例子：布朗运动的Fokker-Planck方程是所谓热方程：du/dt = Delta u，一个确定性的偏微分方程。热方程最早是傅立叶在研究热传导是提出的。看起来很凑巧，其实本质上都是分子的热运动，所以不奇怪它们是一样的。也就是说，两种物理现象是随机的，但是其统计特性完全可确定。这也是薛定谔对生命的观点：微观随机，宏观可控。生命体中，用diffusion来传递信息，物质等等，是非常普遍的（比如氧气，营养等等都靠它）。所以用事后诸葛亮的角度来看，用diffusion model来做AI是合理的。

[FoxMe]

再问个问题（矩阵说过）：sigmoid函数能干什么？或者说：什么任务能用sigmoid函数来完成？

diffusion model，往随机微分方程上套个神经网络（非线性拟合）很关键。可以证明，线性拟合肯定不行。普通的神经网络，加权都是线性的，就添加了sigmoid非线性函数，怎么就这么厉害了？好像可以逼近任何非线性函数。

[TheMatrix2]

再问个问题（矩阵说过）：sigmoid函数能干什么？或者说：什么任务能用sigmoid函数来完成？

diffusion model，往随机微分方程上套个神经网络（非线性拟合）很关键。可以证明，线性拟合肯定不行。普通的神经网络，加权都是线性的，就添加了sigmoid非线性函数，怎么就这么厉害了？好像可以逼近任何非线性函数。

哲学上说两句。

我觉得是一种折叠，压缩。sigmoid不管进来的数多大，出去都在0，1之间。无限到有限的映射，既忠实（包括扭曲），又压缩。sigmoid第一层忠实，层数多了就开始压缩。和人的认识一样，客观世界无穷无尽，进入大脑就那么大地方，就开始折叠和压缩了。

[FoxMe]

是的，物理世界中线性范围是有限的，超过一定范围必然出现饱和现象。比如手机上的功率放大器，也有线性区和饱和区。

[verdelite]

已转移到STEM版。

[mitchemist]

已转移到STEM版。

你说agi2025出成果，是你出啊，还是谁出啊

[verdelite]

你说agi2025出成果，是你出啊，还是谁出啊

别人出，别人出不了我才出。

[mitchemist]

别人出，别人出不了我才出。

你研究到什么程度了？我看了这整个帖子，觉得你还在萌芽阶段？

[verdelite]

你研究到什么程度了？我看了这整个帖子，觉得你还在萌芽阶段？

实现路径上（即概念上），已经公开的里面，在2018年我的是最先进的。秘密的里面有没有，我就不清楚了。这4年有什么发展，我也不清楚。这4年我只看新闻，没有看paper。新闻里没有。

工程上，八字还没有一撇。

[mitchemist]

实现路径上（即概念上），已经公开的里面，在2018年我的是最先进的。秘密的里面有没有，我就不清楚了。这4年有什么发展，我也不清楚。这4年我只看新闻，没有看paper。新闻里没有。

工程上，八字还没有一撇。

你先进在哪？解释一下？
我看你有很多high level理解，一点low level也没有，那就没实践价值。

[verdelite]

你先进在哪？解释一下？
我看你有很多high level理解，一点low level也没有，那就没实践价值。

我说过了（世界上）所有条件都具备了，包括算力。现有算法也足够了，看你怎么组合实现high level 功能。再具体就是商业机密，不能说了。

[mitchemist]

我说过了（世界上）所有条件都具备了，包括算力。现有算法也足够了，看你怎么组合实现high level 功能。再具体就是商业机密，不能说了。

你没听懂我说的，high level = 简单, low level才是问题关键，我觉得你目前没有任何low level的见解。你萌生了对ai的兴趣大概是因为13-16年cnn的发展导致的ai春天。看你之前说神经元，看来你还是玩nn啊？hinton这是要把你们都带到歪路上去几十年。
你预期三年之后，其实30年也无法完成。你什么时候觉得2个月之后能完成，那有可能5年之内看见影。

[verdelite]

你没听懂我说的，high level = 简单, low level才是问题关键，我觉得你目前没有任何low level的见解。你萌生了对ai的兴趣大概是因为13-16年cnn的发展导致的ai春天。看你之前说神经元，看来你还是玩nn啊？hinton这是要把你们都带到歪路上去几十年。
你预期三年之后，其实30年也无法完成。你什么时候觉得2个月之后能完成，那有可能5年之内看见影。

“high level = 简单, low level才是问题关键”这在互联网工业上是成立的。然而在这个人们研究了100年的问题上，就不是这样了。

互联网企业，Idea简单，实现商业成功就难。但是我的idea是4年里读了无数文献才想出来的。那就不容易了。我说过了，我说一句话，可以节省后来者1个月到一年的研究时间。我说4句你们就追上我了，所以商业机密不能说呀。

[mitchemist]

“high level = 简单, low level才是问题关键”这在互联网工业上是成立的。然而在这个人们研究了100年的问题上，就不是这样了。

互联网企业，Idea简单，实现商业成功就难。但是我的idea是4年里读了无数文献才想出来的。那就不容易了。我说过了，我说一句话，可以节省后来者1个月到一年的研究时间。我说4句你们就追上我了，所以商业机密不能说呀。

就是还是nn囖，那你根本不可能实现agi。
其实我在零几年newsgroup和论坛上就看到过不少自称领悟ai奥秘的人，其实都是虚空。你只有"idea"，还是high level idea, 一点点implementation也不沾边，这不是八字没一撇，是连笔纸都没有被发明，连文字都不存在的状态。

[verdelite]

就是还是nn囖，那你根本不可能实现agi。
其实我在零几年newsgroup和论坛上就看到过不少自称领悟ai奥秘的人，其实都是虚空。你只有"idea"，还是high level idea, 一点点implementation也不沾边，这不是八字没一撇，是连笔纸都没有被发明，连文字都不存在的状态。

你说一个穿越者回到三星堆文明，那也是一个纸，笔，文字都不存在的状态。你说他能不能很快发明出这些并写下文学巨著？

[mitchemist]

你说一个穿越者回到三星堆文明，那也是一个纸，笔，文字都不存在的状态。你说他能不能很快发明出这些并写下文学巨著？

关键你不是穿越来的啊，你这属于delusion of grandeur, 你已经自我催眠到用一种鹤立鸡群的穿越者心态来看世界了。

就说说你是不是还是用nn吧，这最能说明问题。

[verdelite]

关键你不是穿越来的啊，你这属于delusion of grandeur, 你已经自我催眠到用一种鹤立鸡群的穿越者心态来看世界了。

就说说你是不是还是用nn吧，这最能说明问题。

我在军版最早发现世人皆傻的真理，这是公认的。还不认可这一真理的都不如我，认可的就追上我了。

我还发现了没有光子、不存在量子纠缠。现在认可的人极少。但是我是正确的。

我还知道人类意识的秘密。我虽不是穿越者，也比那些“世人皆傻”都不知道的人更接近穿越者。