Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

STEM版,合并数学,物理,化学,科学,工程,机械。不包括生物、医学相关,和计算机相关内容。

版主: verdeliteTheMatrix

回复
弃婴千枝
论坛支柱
论坛支柱
帖子互动: 1225
帖子: 12620
注册时间: 2022年 7月 27日 10:51

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 弃婴千枝 »

完全没必要

clifford主要用在supersymmetry,而且目的不是多个方程合并成一个,而是把dirac方程分解成左旋和右旋两个方程(Quaternions分解为majorana和weyl)

把maxwell变成Quaternions让物理变得极其复杂,得不偿失


hci 写了: 2022年 9月 10日 00:01 不是。

我说的是一种“新”数学,叫几何代数,也就是所谓的克里夫特代数。直接表示空间,不用向量来间接表示,所以可以简化物理学,计算机图形学,等等各种用到向量的地方的各种公式。特别对旋转的表示,非常简洁。大致就是这样。

物理学中是这位老兄在提倡:https://en.wikipedia.org/wiki/David_Hestenes
头像
hci(海螺子)
论坛支柱
论坛支柱
帖子互动: 485
帖子: 10093
注册时间: 2022年 7月 22日 15:29

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 hci(海螺子) »

现有通行的物理学,因为数学工具笨拙,是做了一些简化的。这些简化,也许导致了你说的偏差。

比如广义相对论里面,有一个torsion的量,因为传统数学很难算这个,所以通常被人为设为零。苏联有些物理学家测过这个,是能测量到效应的。所以现在很多人相信灵魂世界,就在这个所谓的torsion field(所谓挠场)里面。哈哈。而这个torsion,在几何代数里面,是很容易算的,几何代数的特长就是算旋转,其实一切都是旋转(反射)。

这只是一个例子。

数学,形式化方法不同,对人的难易完全不同。而数学,本质上是人的理解。所以对人来说,不同数学并不是完全等价的。

比如中国古代数学也有微积分思想和方法,但形式化没弄对,传播和使用起来都完全不是同一回事。
verdelite 写了: 2022年 9月 10日 00:01 用这些数学工具写下来的麦克斯韦方程组,和微分方程表示的完全等价(我没说错吧?)。

但是问题是我认为麦克斯韦方程组表示的物理,和真实物理世界是有偏差的。那这些数字工具,在这个研究方向上能提供什么帮助吗?
上次由 hci 在 2022年 9月 10日 00:25 修改。
头像
hci(海螺子)
论坛支柱
论坛支柱
帖子互动: 485
帖子: 10093
注册时间: 2022年 7月 22日 15:29

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 hci(海螺子) »

固步自封。

人家说了要变成Quaternions么?都不知道人家是什么东西,不要瞎扯。
弃婴千枝 写了: 2022年 9月 10日 00:08 完全没必要

clifford主要用在supersymmetry,而且目的不是多个方程合并成一个,而是把dirac方程分解成左旋和右旋两个方程(Quaternions分解为majorana和weyl)

把maxwell变成Quaternions让物理变得极其复杂,得不偿失
bigdata2022
知名作家
知名作家
帖子互动: 18
帖子: 1004
注册时间: 2022年 8月 25日 14:07

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 bigdata2022 »

好贴!!!!!
台湾三大神:林玮丰(林瑋豐),林秉樞, 大醉侠。

都是典范!
头像
verdelite(众傻之傻)
论坛元老
论坛元老
帖子互动: 963
帖子: 23298
注册时间: 2022年 7月 21日 23:33

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 verdelite(众傻之傻) »

索男关心的东西,和大妈网关心的还是有不同的。睡觉去了,以后再聊
没有光子;也没有量子能级,量子跃迁,量子叠加,量子塌缩和量子纠缠。
弃婴千枝
论坛支柱
论坛支柱
帖子互动: 1225
帖子: 12620
注册时间: 2022年 7月 27日 10:51

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 弃婴千枝 »

你这个外行太搞笑了

torsion用的是复空间的2-spinor,不是你理解意义上的clifford algebra,你这套叫做einstein-cartan理论,爱因斯坦还活着的时候就有了,爱因斯坦发展这套把戏的目的并不是为了torsion,而是为了加入电磁场的自旋,因为torsion不是你想加就能加的

另外采取torsion free approach并不是计算困难,而是受到强等效原理约束

物理的玩意是非常delicate的,受到很多实验结果的约束,不是你想加上torsion就可以加的



hci 写了: 2022年 9月 10日 00:17 现有通行的物理学,因为数学工具笨拙,是做了一些简化的。这些简化,也许导致了你说的偏差。

比如广义相对论里面,有一个torsion的量,因为传统数学很难算这个,所以通常被人为设为零。苏联有些物理学家测过这个,是能测量到效应的。所以现在很多人相信灵魂世界,就在这个所谓的torsion field(所谓挠场)里面。哈哈。而这个torsion,在几何代数里面,是很容易算的,代数几何的特长就是算旋转。一切都是旋转(反射)。

这只是一个例子。

数学,形式化方法不同,对人的难易完全不同。而数学,本质上是人的理解。所以对人来说,不同数学并不是完全等价的。

比如中国古代数学也有微积分思想和方法,但形式化没弄对,传播和使用起来都完全不是同一回事。
头像
hci(海螺子)
论坛支柱
论坛支柱
帖子互动: 485
帖子: 10093
注册时间: 2022年 7月 22日 15:29

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 hci(海螺子) »

我不跟你争论这个,我只是传述我看到的。你所说的,也没有超出我所看到的内容的范围,所以我不认为你反驳了什么。

我说这个,对你没用,也许对别人是个启发。比如这位这么讲究效率的,有更好的工具都不知道,岂不是可惜?
弃婴千枝 写了: 2022年 9月 10日 00:30 你这个外行太搞笑了

torsion用的是复空间的2-spinor,不是你理解意义上的clifford algebra,你这套叫做einstein-cartan理论,爱因斯坦还活着的时候就有了

另外采取torsion free approach并不是计算困难,而是收到强等效原理约束

物理的玩意是非常delicate的,收到很多实验结果的约束,不是你想加上torsion就可以加的
弃婴千枝
论坛支柱
论坛支柱
帖子互动: 1225
帖子: 12620
注册时间: 2022年 7月 27日 10:51

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 弃婴千枝 »

至于为什么到现在都没有加入torsion,是因为谁也不知道等效原理究竟必须强约束还是可以弱约束,谁也不知道,所以最好还是不淌这浑水了,算完写了也发表不了

所以本质上是实验没有证据,并不是数学上困难,物理理论超前实验至少50年,这点把戏爱因斯坦活着的时候就搞定了

物理上很少用real space的clifford,都是用complex space的spinor(clifford的子集),主要目的是为了处理自旋




hci 写了: 2022年 9月 10日 00:34 我不跟你争论这个,我只是传述我看到的。你所说的,也没有超出我所看到的内容的范围,所以我不认为你反驳了什么。

我说这个,对你没用,也许对别人是个启发。比如这位这么讲究效率的,有更好的工具都不知道,岂不是可惜?
头像
hci(海螺子)
论坛支柱
论坛支柱
帖子互动: 485
帖子: 10093
注册时间: 2022年 7月 22日 15:29

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 hci(海螺子) »

你说的这一通,对一个物理学民科是会有很大吸引力的,你知道么?

我的目的就达到了。
弃婴千枝 写了: 2022年 9月 10日 00:36 至于为什么到现在都没有加入torsion,是因为谁也不知道等效原理究竟必须强约束还是可以弱约束,谁也不知道,所以最好还是不淌这浑水了,算完写了也发表不了

所以本质上是实验没有证据,并不是数学上困难,物理理论超前实验至少50年,这点把戏爱因斯坦活着的时候就搞定了

物理上很少用real space的clifford,都是用complex space的spinor(clifford的子集),主要目的是为了处理自旋
da1gaku
论坛元老
论坛元老
帖子互动: 376
帖子: 18555
注册时间: 2022年 7月 23日 23:35

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 da1gaku »

verdelite 写了: 2022年 9月 9日 15:50 看了da1gaku的介绍,我感觉基本上对这个技术有了一点感觉。弃婴的观点,忽略了很多东西。比如:图像各点之间的关系。她假设图像是二维的点,相互之间没有关系。各处理各的,然后她得到一个错误的结论。我批评过她这种物理竞赛训练出来的思维,显然她没听进去。我物理出身,对这个缺点太了解了。

而真正的图像,是客观世界的图像,里面有很多线条,所以各点之间是有关系的。AI学习的存储维度是很高的,里面存储了大量训练集里面隐含的关系。话说AI就是量变引起质变,从机器运动里产生智能。
其实深度学习之所以能用几百万上亿个参数来建模、处理高维数据,就是因为这些参数经过训练后构成类似流形的东西,有内部和谐。
否则没法弄。
TheMatrix2楼主
论坛点评
论坛点评
帖子互动: 30
帖子: 2497
注册时间: 2022年 8月 20日 22:11

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 TheMatrix2楼主 »

da1gaku 写了: 2022年 9月 10日 02:24 其实深度学习之所以能用几百万上亿个参数来建模、处理高维数据,就是因为这些参数经过训练后构成类似流形的东西,有内部和谐。
否则没法弄。
对。应该是这样。
TheMatrix2楼主
论坛点评
论坛点评
帖子互动: 30
帖子: 2497
注册时间: 2022年 8月 20日 22:11

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 TheMatrix2楼主 »

弃婴千枝 写了: 2022年 9月 10日 00:36 至于为什么到现在都没有加入torsion,是因为谁也不知道等效原理究竟必须强约束还是可以弱约束,谁也不知道,所以最好还是不淌这浑水了,算完写了也发表不了

所以本质上是实验没有证据,并不是数学上困难,物理理论超前实验至少50年,这点把戏爱因斯坦活着的时候就搞定了

物理上很少用real space的clifford,都是用complex space的spinor(clifford的子集),主要目的是为了处理自旋
弃婴确认了。

话说你起这么个名字,太low了。
TheMatrix2楼主
论坛点评
论坛点评
帖子互动: 30
帖子: 2497
注册时间: 2022年 8月 20日 22:11

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 TheMatrix2楼主 »

同意新数学是让不能算的东西能算了。我觉得“新数学”就是AI,它不是让人去手算,它替人去算,算完了以人类可理解的方式呈现。
hci 写了: 2022年 9月 10日 00:17 现有通行的物理学,因为数学工具笨拙,是做了一些简化的。这些简化,也许导致了你说的偏差。

比如广义相对论里面,有一个torsion的量,因为传统数学很难算这个,所以通常被人为设为零。苏联有些物理学家测过这个,是能测量到效应的。所以现在很多人相信灵魂世界,就在这个所谓的torsion field(所谓挠场)里面。哈哈。而这个torsion,在几何代数里面,是很容易算的,几何代数的特长就是算旋转,其实一切都是旋转(反射)。

这只是一个例子。

数学,形式化方法不同,对人的难易完全不同。而数学,本质上是人的理解。所以对人来说,不同数学并不是完全等价的。

比如中国古代数学也有微积分思想和方法,但形式化没弄对,传播和使用起来都完全不是同一回事。
TheMatrix2楼主
论坛点评
论坛点评
帖子互动: 30
帖子: 2497
注册时间: 2022年 8月 20日 22:11

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 TheMatrix2楼主 »

弃婴千枝 写了: 2022年 9月 10日 00:36 至于为什么到现在都没有加入torsion,是因为谁也不知道等效原理究竟必须强约束还是可以弱约束,谁也不知道,所以最好还是不淌这浑水了,算完写了也发表不了

所以本质上是实验没有证据,并不是数学上困难,物理理论超前实验至少50年,这点把戏爱因斯坦活着的时候就搞定了

物理上很少用real space的clifford,都是用complex space的spinor(clifford的子集),主要目的是为了处理自旋
有了AI,torsion就可以加进去了。符号计算,数值计算,哗啦就出来了。
FoxMe(令狐)
论坛精英
论坛精英
帖子互动: 152
帖子: 5495
注册时间: 2022年 7月 26日 16:46

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 FoxMe(令狐) »

TheMatrix2 写了: 2022年 9月 9日 19:10 No. 你这个想法说明你没懂人工智能。

比如神经网络。矩阵之上有一个非线性部分,最开始用 Sigmoid,就是一个三角函数。你看到了,你就说人工智能不就是三角函数吗?错。它用到了Sigmoid,它还可以改成很多别的函数,比如ReLU。

为什么这些都好使?这实际上是个体系的问题。在这个体系之中这些都好使。这个体系的什么特征使Sigmoid,ReLU都好使?这个问题才是人工智能的入门问题。

Diffusion model是用到了 diffusion,可不可以用别的,很可能可以。为什么可以?体系的什么特征使它们都可以?这是我们搞人工智能应该问的问题。
有争论是好的,有争论才有进步,争论越激烈越好。我觉得我们争论的是什么是人工智能,那么先要定义人工智能。根据维基:

Artificial intelligence (AI) is intelligence demonstrated by machines, as opposed to the natural intelligence displayed by animals including humans.

根据这个定义,会算1+1=2的机器也是人工智能。你如果不同意,那么请给出人工智能的定义。
头像
Amorphous(阿毛)
论坛精英
论坛精英
Amorphous 的博客
帖子互动: 280
帖子: 7838
注册时间: 2022年 7月 22日 02:05

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 Amorphous(阿毛) »

TheMatrix2 写了: 2022年 9月 9日 11:39 Diffusion Model 是先拿一个图片集,某主题的,比如人物。然后以高斯过程的方式把每一张图虚化,一小步一小步的,最后虚化成一个完全的高斯噪音图片。然后学习每一张图片的虚化过程。再把这个过程反向。应用的时候从一个高斯噪音图片开始,反向生成一个有意义的图片。

很神奇。这里面到底有什么?
学习虚化过程,过程反向是什么意思?
Wins come all day under President Donald J. Trump.

Trump was right about everything.

I am telling you, these countries are calling us up, kissing my ass.
TheMatrix2楼主
论坛点评
论坛点评
帖子互动: 30
帖子: 2497
注册时间: 2022年 8月 20日 22:11

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 TheMatrix2楼主 »

FoxMe 写了: 2022年 9月 10日 09:42 有争论是好的,有争论才有进步,争论越激烈越好。我觉得我们争论的是什么是人工智能,那么先要定义人工智能。根据维基:

Artificial intelligence (AI) is intelligence demonstrated by machines, as opposed to the natural intelligence displayed by animals including humans.

根据这个定义,会算1+1=2的机器也是人工智能。你如果不同意,那么请给出人工智能的定义。
怎么定义人工智能我定义不出。你引的这一段也不能算定义吧。1+1=2也不一定符合你引的这一段。

但是什么是智能我当然是想过的。我觉得智能得有这样的特征:外部看不可完全预测,有模糊性。打开之后规模要大,复杂。
FoxMe(令狐)
论坛精英
论坛精英
帖子互动: 152
帖子: 5495
注册时间: 2022年 7月 26日 16:46

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 FoxMe(令狐) »

弃婴千枝 写了: 2022年 9月 9日 19:48 搞笑

markov chain只有在pij=pji的时候才是time reversiavle
尼玛,我的原话是:

“一个马尔可夫链在时间上反过来还是马尔可夫链。”即如果X1,X2,X3,...,XN是马尔可夫链,那么XN,...,X3,X2,X1也是,很容易证明。

不是你说的time-reversible,time-reversible有个特殊的含义,你的公式也不对,正确的公式是:

qi*pij=qj*pji,这里qi是稳态分布。

time-reversible Markov chain指的是在稳态下,时间反转仍然满足同样的稳态分布。但是diffusion根本不是在稳态下工作。

这才叫望文生义。
上次由 FoxMe 在 2022年 9月 10日 10:17 修改。
TheMatrix2楼主
论坛点评
论坛点评
帖子互动: 30
帖子: 2497
注册时间: 2022年 8月 20日 22:11

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 TheMatrix2楼主 »

Amorphous 写了: 2022年 9月 10日 09:49 学习虚化过程,过程反向是什么意思?
一个图片在第t步时是f(t),下一步更加虚化变成f(t+1)。学习这个过程就是给定f(t+1),怎么才能变回接近于f(t)。
FoxMe(令狐)
论坛精英
论坛精英
帖子互动: 152
帖子: 5495
注册时间: 2022年 7月 26日 16:46

Re: Diffusion Model 最近很火,谁谈谈?技术层面,哲学层面?

帖子 FoxMe(令狐) »

最简单的描述:假设W(t)是布朗运动,那么可以用随机微分方程表示diffusion model

前向过程:dX(t) = dW(t), 初值X(0)是一幅图
反向过程:dX(t) = -score dt + dW’(t),初值是噪声

这里score = log(p_t(X(t)))的梯度。就这么简单,前向过程是布朗运动,反向过程基本是个朗之万方程,从纯噪声开始反演,到达初始概率分布,得到另一副图。这里要用个神经网络去非线性拟合score。所以我没看到智能在哪里。只是学习了一个概率分布,本质上是个随机数产生器,当然如果你要说是智能也可以。
回复

回到 “STEM”