Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？

[yaoerduo3]

x

[TheMatrix2]

加噪声是为了让AI跳出某一个局部最优点，争取找到整体或者更大局部的最优点。

这里我觉得不是。我是指这个diffusion model。不是什么跳出局部最优点。

我觉得是小步试探，就像一根tentacle往前伸，每一小步都有很多种试探方法。步数多，每一步小，才能回溯。

[FoxMe]

向量空间 V 上的 Clifford algebra 是 V 上的 Tensor algebra 的一个商空间。其商所用到的关系从 V 上的一个 inner product 或 metric 来。V 上必须有一个 inner product 或 metric，所以 Clifford algebra 是 over Euclidean space 的，比一个向量空间多了 metric，也可以说有几何结构。

流形上每一点都有切空间为向量空间，再加上一个 metric，变成黎曼流形，每个切空间就成了Euclidean space，可以在其上构造 Clifford algebra，也就是流形每一点上的 Clifford algebra，合在一起可以叫 Clifford algebra bundle，是一个向量丛。

结构上构造结构，而且这么简洁 （是被压缩抽象助记到简洁），令人忍不住要把它写出来。和你们的讨论关系不大。I just can't help it.

这个太牛了。人生苦短，学海无涯。如果AI能帮人什么都懂就好了，不知道brain-machine interface还活着吗？

[TheMatrix2]

正大光明？
删帖是权利，是正大光明的权利。
一个破论坛，少搞伟光正。

你删了贴，别人没看见你白写了。
别人看见了，回了你的贴，你的贴就在引用中了。你怎么删？

[hci]

我可没说我是佛祖再世，我从来就说我是万年伏羲正教的一个宣传员而已，不要污蔑我。伏羲教是明确反对佛教的，我不过是觉得佛陀写经的方式有可取之处而已。不要搞混了。

人人都在积德，为啥要王子才能行善积德，这个原理是什么？所有功德，都在账上。

在这个楼之前，我没有与弃婴打过交道。以后也不会有了。本以为是个可造之材，结果与其他宵小一样。以后正眼都不看一眼的。这也只是因果而已。

还有什么问题？

感觉HCI和弃妈惺惺相惜，所以才大战三百回合。
HCI是佛祖再世，但从来没体验过佛祖当年作为王子，过腻了秒杀王思聪国民老公的日子，所以他的积德的提法就很可疑。
弃妈言必称智商低穷光蛋，但从来没有物理数学方面的牛导师指导，自己研究的是軟科学，业余还恶补数学系研究生课程然后来论坛上装，所以他也没办法证明自己的智商高。

本来以为是站方五毛模拟的，居然是真人，hci还是实名。可叹。
不过两位都是高人，哈哈，看的热闹。

[yaoerduo3]

x

[FoxMe]

这里我觉得不是。我是指这个diffusion model。不是什么跳出局部最优点。

我觉得是小步试探，就像一根tentacle往前伸，每一小步都有很多种试探方法。步数多，每一步小，才能回溯。

我也觉得不是，根本不是个优化问题。

[yaoerduo3]

x

[TheMatrix2]

这里我觉得不是。我是指这个diffusion model。不是什么跳出局部最优点。

我觉得是小步试探，就像一根tentacle往前伸，每一小步都有很多种试探方法。步数多，每一步小，才能回溯。

tentacle这个方法我一直在想，但是太具体了，无法在问题变化中实现。diffusion model实现了。每个人都有想法，但是人家实现了。得服。

[TheMatrix2]

干你甚事呢？
我自己的贴，我发帖，我删帖，我再发，我再删，这是我的权利。没犯法吧。
别人引用是他的事情，我管不了。
你不是站方的，你操这个心？
别装了。

藏头露尾，你藏不住啊。呵呵。

[hci]

我再解释一下。

微分几何是理解我们造出来的学习过程的实现才需要的，比如理解深学如何工作的。

智能本身并不需要这个。智能是在作压缩，必然利用参数空间的对称性。但到底如何实现的，可以有很多办法。

用微分一步步逼近，可能是一种不怎么有效率的方法。但我们现在就会这个。

不知道是不是更清楚了。

墒减大的原理是对的，但是具体怎么回事根本解释不清楚，微分几何，什么压缩，那个ma yi怎天在微博上promote自己的观点，AI本质上跟Wolfrom搞的那种自动机一样，很难解释，只能演化计算。

[yaoerduo3]

x

[wwwhu]

知识就是熵减，仔细看看，肯定一堆人类常识输入。

[TheMatrix2]

你就是站方的，别无赖了。
自删是权利。引用也是权利。玩什么道德制高点。

呵呵。不小心又被我看到了。

要不你回我一贴，然后不等我看到你就删掉如何？

[yaoerduo3]

x

[FoxMe]

AI本质上跟Wolfrom搞的那种自动机一样，很难解释，只能演化计算。

Diffusion model牛的地方是它的原理在数学上能够严格证明。这也是我对什么是AI困惑的原因：

1. 它不是AI，因为SDE和用神经网络来拟合都很常规。
2. 它是AI。尽管每一部份是常规数学，但是组合起来就有智能了。就好像把大脑切开来，看不到智能在哪里。也许AI就是由许多数学公式有机地构成，每个数学公式没有智能，但是组合得恰好的话就有智能了。

还有个困惑：数学公式有没有智能？我觉得数学公式，尤其是算法，就是人工智能。

[verdelite]

Diffusion model牛的地方是它的原理在数学上能够严格证明。这也是我对什么是AI困惑的原因：

1. 它不是AI，因为SDE和用神经网络来拟合都很常规。
2. 它是AI。尽管每一部份是常规数学，但是组合起来就有智能了。就好像把大脑切开来，看不到智能在哪里。也许AI就是由许多数学公式有机地构成，每个数学公式没有智能，但是组合得恰好的话就有智能了。

还有个困惑：数学公式有没有智能？我觉得数学公式，尤其是算法，就是人工智能。

智能就是抽象。抽象就是智能。

[弃婴千枝]

它的解释是正确的，

80年代在非线性领域有大量研究，fokker planck方程外加噪声驱动，即使噪声的最大振幅小于势垒，粒子也有可能跳出势垒

这叫经典隧穿，对应量子隧穿

这里我觉得不是。我是指这个diffusion model。不是什么跳出局部最优点。

我觉得是小步试探，就像一根tentacle往前伸，每一小步都有很多种试探方法。步数多，每一步小，才能回溯。

[弃婴千枝]

你还知道bundle，它们连bundle都不知道，

另外，几何方法适合于原生力，不适合次生力，好多人吐沫横飞唠叨了半天，还不明白这个道理

套用最近流行的观点，叫做emergent

原生力是干净的，emergent是脏的，不可能用简洁的几何方法，什么conformal field更是胡说八道，即使最纯净的原生力---电磁场，都不是conformal的，世界上根本就没有conformal的玩意

关于emergent，比如最纯粹的牛顿流体力学，就不能用几何的方法来导出，流体力学跟几何毫无关系

向量空间 V 上的 Clifford algebra 是 V 上的 Tensor algebra 的一个商空间。其商所用到的关系从 V 上的一个 inner product 或 metric 来。V 上必须有一个 inner product 或 metric，所以 Clifford algebra 是 over Euclidean space 的，比一个向量空间多了 metric，也可以说有几何结构。

流形上每一点都有切空间为向量空间，再加上一个 metric，变成黎曼流形，每个切空间就成了Euclidean space，可以在其上构造 Clifford algebra，也就是流形每一点上的 Clifford algebra，合在一起可以叫 Clifford algebra bundle，是一个向量丛。

结构上构造结构，而且这么简洁 （是被压缩抽象助记到简洁），令人忍不住要把它写出来。和你们的讨论关系不大。I just can't help it.

[verdelite]

它的解释是正确的，

80年代在非线性领域有大量研究，fokker planck方程外加噪声驱动，即使噪声的最大振幅小于势垒，粒子也有可能跳出势垒

这叫经典隧穿，对应量子隧穿

不存在量子隧穿。

经典隧穿就是大量粒子的统计动力学。