Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？

[hci]

以直报怨而已。

告诉她这种行为的可能后果，不算诅咒吧。

别诅咒网友，大家都差不多。你假定将军们不知道meme，也是半斤八两啊。

[hci]

认了，是满足了受害人臆想了？好吧。

也是奇了怪了，我实名的，你匿名的，结果你还成了受害人，要来博取大家的同情了。

这事儿闹的。

大师有点癫狂了，在自己的幻想里不停推演，发现我不下地狱，他就好不了。不小心向这种人问问题，是我的一个劫，我也只能认了。

[hci]

都看到这一步了，你还以为她真有兴趣？你这个人太好了。我们都需要向你学习。

你要是对颜色这个话题感兴趣。可以了解一些经典的视觉幻觉实验。

[mitfrank]

很久没有看到这么有意思的话题了。 原来meme这个词1976年就有了，还以为是最近的网络新词，受教了。看到这，我想问二位：hci 和 verdelite，你们讨论的这个“自我意识”，到底是指什么？我的感觉是从verdelite的讨论看，是一种自主学习和模仿意识和能力？其中包含更高级的创新意识和能力吗？而从hci的讨论看，好像是一种更宽泛的意识和能力，包含不需后天学习的本能，是吗？另外，还想问一下，也许离题了，你们觉得这个意识只独立存在或者依附（可以复制或实现于机器）于人类吗？还是也会独立存在或依附于已知或未知的其它生物？比如乌鸦或海豚？

[verdelite]

很久没有看到这么有意思的话题了。 原来meme这个词1976年就有了，还以为是最近的网络新词，受教了。看到这，我想问二位：hci 和 verdelite，你们讨论的这个“自我意识”，到底是指什么？我的感觉是从verdelite的讨论看，是一种自主学习和模仿意识和能力？其中包含更高级的创新意识和能力吗？而从hci的讨论看，好像是一种更宽泛的意识和能力，包含不需后天学习的本能，是吗？另外，还想问一下，也许离题了，你们觉得这个意识只独立存在或者依附（可以复制或实现于机器）于人类吗？还是也会独立存在或依附于已知或未知的其它生物？比如乌鸦或海豚？

我来回答一下关于我的部分。

自我意识，就是一个人觉得他自己是有意识的那种“意识”。是能够感觉到自己存在，感觉自己能够“自主”做出判断，能够自由行动和思考的那个主体。再具体就不容易定义了。和“自主”关系大，和“学习和模仿意识的能力”，和“更高级的创新意识和能力”可能关系不大。

我认为每个人的意识是依附于他的脑的。乌鸦和海豚也可以拥有自我意识。机器也可以。这里参与讨论的人里面，theMatrix对我的理解最准确。我前面说了，一群神经元兴奋代表一个概念。当一个生物/机器的某群神经元/神经元的对应物，开始代表“我”这个概念，该生物/机器就拥有了自我意识。

外星生物也可以套这个说法。

[弃婴千枝]

我给你正式解释下你的所谓diffusion model

要理解diffusion model,首先要熟悉噪声n(t)驱动下的fokker planck方程：

df/dt=F+n(t)

假如在没有噪声驱动的fokker planck方程df/dt=F，由于其不具备ergodic,其演化最终掉入亚稳态A,但是很遗憾亚稳态A不是我们所追求的解，我们所追求的解是能量更低的稳态B，但是A——>B有巨大的势垒C不可逾越，所以正常情况下由于ergodic方程不能得到解B

A-->C-->B

这时候我们加上噪声驱动n(t),由于经典隧穿，使得fokker planck最终能够越过势垒C停留在B上

结论：

这个方法假设了：

1--能量更低的解就是我们所需要的解
2--所加噪声量能够满足ergodic，或者说能够至少越过C到达B

你这个model只有在这2个假设下才能work

当然你的AI是玄学，不是科学，搞这个主要是为了吸引眼球，没有人回去考虑这些细节。

Diffusion Model 是先拿一个图片集，某主题的，比如人物。然后以高斯过程的方式把每一张图虚化，一小步一小步的，最后虚化成一个完全的高斯噪音图片。然后学习每一张图片的虚化过程。再把这个过程反向。应用的时候从一个高斯噪音图片开始，反向生成一个有意义的图片。

很神奇。这里面到底有什么？

[hci]

意识，一种自主感受和行为的经验，通俗的说就是知道自己在干嘛的一种经验。这个经验里面，有几个成分：有自我，能自主感受和行为。一个很重要的成分，叫元认知，就是对自己认知的认知。目前心理学认为这是有意识的标准。是否有元认知，可用镜子测试可知。除了人之外，很多动物可以通过测试，比如大象，猩猩，等等。所以它们也是有意识的。具体你可以谷歌。

能力与意识是两个概念，不要混淆了。这也是我反复说的，人工智能是在研究如何模拟人的一些能力。目前人工智能引起的最大的争议，就是很多人，包括verdelite，号称人工智能是在模拟人的意识。认为没有意识的AI只是弱AI，而强AI是有意识的。而且他们认为，强AI很快就要实现了，AI很快就要具有意识了。这是主流心理学家和我都强烈反对的观点。

人的大部分能力是先天赋予，经后天发展而来。这不是一般意义上的本能，因为发展，也需要合适的刺激。真正从环境中学习到的能力，是比较有限的。这儿要区分能力和内容，智商试图测能力。80%以上的智商变化，可由先天因素解释。这是九十年代美国心理学会总结了百年来智商研究，出版了一本叫《钟形曲线》的书说的。因为公所周知的原因，这本书被美国舆论界大肆批判，讨论智商成了禁区。

很多能力只有在有意识的时候才能展现，所以人们经常混淆能力和意识。其实二者没有什么关系。意识是一种内部经验，而能力是一种外在表现。

好了，以上为我与主流心理学界一致的地方。以下为我个人的观点。

主要分歧，是意识的性质。主流心理学，当然认为意识是大脑的产物，或者是一种脑活动的涌现，这也是我当年作为心理学界的一个高材生的时代的观点。verdelite的观点，似乎也是如此。

我目前的观点，是认为意识独立于大脑，可以单独存在。事实上，我认为意识就是存在本身。物质世界是虚拟的，只有意识是真实的，意识可以创造物质。我们的意识来到这个虚拟现实，是为了修炼的目的。等等。这些也是我的伏羲教的内容。

很久没有看到这么有意思的话题了。 原来meme这个词1976年就有了，还以为是最近的网络新词，受教了。看到这，我想问二位：hci 和 verdelite，你们讨论的这个“自我意识”，到底是指什么？我的感觉是从verdelite的讨论看，是一种自主学习和模仿意识和能力？其中包含更高级的创新意识和能力吗？而从hci的讨论看，好像是一种更宽泛的意识和能力，包含不需后天学习的本能，是吗？另外，还想问一下，也许离题了，你们觉得这个意识只独立存在或者依附（可以复制或实现于机器）于人类吗？还是也会独立存在或依附于已知或未知的其它生物？比如乌鸦或海豚？

[verdelite]

意识，一种自主感受和行为的经验，通俗的说就是知道自己在干嘛的一种经验。这个经验里面，有几个成分：有自我，能自主感受和行为。一个很重要的成分，叫元认知，就是自己知道自己的认知。目前心理学认为这是有意识的标准。是否有元认知，可用镜子测试可知。除了人之外，很多动物可以通过测试，比如大象，猩猩，等等。所以它们也是有意识的。具体你可以谷歌。

能力与意识是两个概念，不要混淆了。这也是我反复说的，人工智能是在研究如何模拟人的一些能力。目前人工智能引起的最大的争议，就是很多人，包括verdelite，号称人工智能是在模拟人的意识。认为没有意识的AI只是弱AI，而强AI是有意识的。而且他们认为，强AI很快就要实现了，AI很快就要具有意识了。这是主流心理学家和我都强烈反对的观点。

人的大部分能力是先天赋予，经后天发展而来。这不是一般意义上的本能，因为发展，也需要合适的刺激。真正从环境中学习到的能力，是比较有限的。这儿要区分能力和内容，智商试图测能力。80%以上的智商变化，可由先天因素解释。这是九十年代美国心理学会总结了百年来智商研究，出版了一本叫《钟形曲线》的书说的。因为公所周知的原因，这本书被美国舆论界大肆批判，讨论智商成了禁区。

很多能力只有在有意识的时候才能展现，所以人们经常混淆能力和意识。其实二者没有什么关系。意识是一种内部经验，而能力是一种外在表现。

好了，以上为我与主流心理学界一致的地方。以下为我个人的观点。

主要分歧，是意识的性质。主流心理学，当然认为意识是大脑的产物，或者是一种脑活动的涌现，这也是我当年作为心理学界的一个高材生的时代的观点。verdelite的观点，似乎也是如此。

我目前的观点，是认为意识独立于大脑，可以单独存在。事实上，我认为意识就是存在本身。物质世界是虚拟的，只有意识是真实的，意识可以创造物质。我们的意识来到这个虚拟现实，是为了修炼的目的。等等。这些也是我的伏羲教的内容。

我也来讲几句。刚才我只回答了关于我的部分，没有提hci，主要是怕我对他的观点的描述不准确。这里hci有两处描述了我的观点，我来评论一下，第1处描述不准确，第2处描述准确：

1，“很多人，包括verdelite，号称人工智能是在模拟人的意识。” 评论一下，我没有认为人工智能是在模拟人的意识。我认为的是，人工智能（机器）可以实现人的意识那样的自我意识，而这可以首先从模拟人脑的工作原理来实现。现在火热的那些人工智能，例如反向传播算法实现的那些，并没有模拟人的意识。这一处对我的观点的描述是不准确的。
2，“主流心理学，当然认为意识是大脑的产物，或者是一种脑活动的涌现，这也是我当年作为心理学界的一个高材生的时代的观点。verdelite的观点，似乎也是如此。” 这个对我的观点的描述是准确的。

除了hci的最后一段（意识独立于大脑），和上面1说的部分，hci的观点我是赞同的。特别是意识和能力的区别，我的回答里面也是差不多的意思。

[hci]

好吧，我可以把“模拟”改为“实现”。你们试图用AI实现人的意识那样的自我意识，而且认为马上就要实现了。行不？

这同样是主流心理学家和我都强烈反对的。

我也来讲几句。刚才我只回答了关于我的部分，没有提hci，主要是怕我对他的观点的描述不准确。这里hci有两处描述了我的观点，我来评论一下，第1处描述不准确，第2处描述准确：

1，“很多人，包括verdelite，号称人工智能是在模拟人的意识。” 评论一下，我没有认为人工智能是在模拟人的意识。我认为的是，人工智能（机器）可以实现人的意识那样的自我意识，而这可以首先从模拟人脑的工作原理来实现。现在火热的那些人工智能，例如反向传播算法实现的那些，并没有模拟人的意识。这一处对我的观点的描述是不准确的。
2，“主流心理学，当然认为意识是大脑的产物，或者是一种脑活动的涌现，这也是我当年作为心理学界的一个高材生的时代的观点。verdelite的观点，似乎也是如此。” 这个对我的观点的描述是准确的。

除了hci的最后一段（意识独立于大脑），和上面1说的部分，hci的观点我是赞同的。特别是意识和能力的区别，我的回答里面也是差不多的意思。

[verdelite]

我给你正式解释下你的所谓diffusion model

要理解diffusion model,首先要熟悉噪声n(t)驱动下的fokker planck方程：

df/dt=F+n(t)

假如在没有噪声驱动的fokker planck方程df/dt=F，由于其不具备ergodic,其演化最终掉入亚稳态A,但是很遗憾亚稳态A不是我们所追求的解，我们所追求的解是能量更低的稳态B，但是A——>B有巨大的势垒C不可逾越，所以正常情况下由于ergodic方程不能得到解B

A-->C-->B

这时候我们加上噪声驱动n(t),由于经典隧穿，使得fokker planck最终能够越过势垒C停留在B上

结论：

这个方法假设了：

1--能量更低的解就是我们所需要的解
2--所加噪声量能够满足ergodic，或者说能够至少越过C到达B

你这个model只有在这2个假设下才能work

当然你的AI是玄学，不是科学，搞这个主要是为了吸引眼球，没有人回去考虑这些细节。

受到弃婴的启发，我也去网上看了一下diffusion models是什么东西，干什么的，和为什么。我因为精力有限，不能仔细去研究，所以研究到我感觉满意的程度就行了。

我发现这是一些算法，用来产生一些图片。比如你说我要“小鸡啄米”图，那么这个算法就可以产生一个小鸡啄米的图给你看，图里有小鸡，有米，有啄。看起来就是个画家听了你的命令，画出来的。

（我第一眼以为是说给一个图加密，然后它能被恢复出来。。。这个理解是完全错误的。网上很多blog，里面第一个图都非常误导！比如这两张：


看着像不像恢复出原图？）

当然，电脑程序给你画一张这样的小鸡啄米图，而这样的图，世界上不可能只能存在一张。可以有各种各样的小鸡，各种各样的米，各种各样的啄。

下面是我的speculation，为了讲清楚这个概念的。

开始speculation:
我们假定全世界所有的可能的“小鸡啄米”的图，是可数的。那么它对应于一个自然数列。那么我除了告诉电脑程序，我不仅要“小鸡啄米”的图，我还要对应于自然数1的那张。于是电脑就画出那张给我。如果我要对应于第100张的，电脑也可以画出来给我，它们看起来可以完全不同，但是都是小鸡啄米图。

风格是水墨画还是油画还是线条画，还是各种别的特性，这取决于你怎么训练这个电脑程序。这个“画家”只用油画训练过，它就只会给你画油画特性的小鸡啄米图。

由于训练的原因，电脑程序总是给你小鸡啄米的图，而不是米啄小鸡的图。所以，这些信息，是存储在训练好的程序里了。
结束speculation.

现在好了，我们也可以不给它1，100这样的数字。我们给它一个随机产生的像素点阵，每个点都是0，1之间随机取得一个小数。这个程序，就能从这个随机像素点阵，画出来一副小鸡吃米图。这个像素点阵我们可以对应到一个自然数（比如，1024x1024的点阵，每个点取值0-65535，我相信你有有100种办法把它对应到一个自然数）。这个小鸡吃米图，就是对应于这个自然数的小鸡吃米图。而这个diffusion model，就是从这个自然数画出这个图的过程。

是一个很有意思的事，但是和什么entropy，什么物理，毫无关系，什么势垒，什么最小能量，不说毫无关系，可能也关系极小。

而且和AI实现“自我意识”，关系也不大。

研究到这一步，我就满意了。因为和我的研究方向关系不大，我也不想再深入研究了，但是我想我研究得到的信息是比较准确的。

[verdelite]

好吧，我可以把“模拟”改为“实现”。你们试图用AI实现人的意识那样的自我意识，而且认为马上就要实现了。行不？

这同样是主流心理学家和我都强烈反对的。

要改的是“是在”->“可以”。

“是在模拟” -> “可以模拟”，“可以实现”。

我是认为马上就要实现了。

[TheMatrix2]

我给你正式解释下你的所谓diffusion model

要理解diffusion model,首先要熟悉噪声n(t)驱动下的fokker planck方程：

df/dt=F+n(t)

假如在没有噪声驱动的fokker planck方程df/dt=F，由于其不具备ergodic,其演化最终掉入亚稳态A,但是很遗憾亚稳态A不是我们所追求的解，我们所追求的解是能量更低的稳态B，但是A——>B有巨大的势垒C不可逾越，所以正常情况下由于ergodic方程不能得到解B

A-->C-->B

这时候我们加上噪声驱动n(t),由于经典隧穿，使得fokker planck最终能够越过势垒C停留在B上

结论：

这个方法假设了：

1--能量更低的解就是我们所需要的解
2--所加噪声量能够满足ergodic，或者说能够至少越过C到达B

你这个model只有在这2个假设下才能work

当然你的AI是玄学，不是科学，搞这个主要是为了吸引眼球，没有人回去考虑这些细节。

我得请FoxMe来看一下你这里的数学对不对。

fokker planck方程描述的是随机微分方程的解，也就是一个随机过程，的概率密度函数的时间演化。它是一个偏微分方程，一个确定性方程，并不是随机微分方程。

你再加一个噪音项，这到底啥意思啊？是不是头上安头？合逻辑吗？FoxMe确认一下？

diffusion model是什么目的你知道吧？就是把图片虚化到完全的高斯噪声，然后再反过来。为什么要达到高斯噪声？为了应用的时候可以取一个任意的高斯噪声反向生成一个图片。

那你这个又是干什么的呢？好像没有目的啊。

[mitfrank]

hci, verdelite, 你们回答了我的问题，把意识和能力解释得很清楚，受教了。然后我问下一个问题，想听听你们的想法。假如意识可以实现，那对于机器的学习或创造能力是一种加持还是一种负担？假如机器有了意识，这是一种人类可控的意识吗？还是一种独立于人类，可以自主创造机器文化，机器伦理，机器道德的意识？换句话说，发展人工智能的最终目的是什么？人类探索未知，挑战自我，目的是为了更好为人类服务，对吗？

[TheMatrix2]

现在好了，我们也可以不给它1，100这样的数字。我们给它一个随机产生的像素点阵，每个点都是0，1之间随机取得一个小数。这个程序，就能从这个随机像素点阵，画出来一副小鸡吃米图。这个像素点阵我们可以对应到一个自然数（比如，1024x1024的点阵，每个点取值0-65535，我相信你有有100种办法把它对应到一个自然数）。这个小鸡吃米图，就是对应于这个自然数的小鸡吃米图。而这个diffusion model，就是从这个自然数画出这个图的过程。

我觉得你的理解是对的。

你的理解中有这样的元素：比如训练图集10000张，每张以100种方式虚化到高斯噪音，总共得到100万个高斯噪音图片。这在全部高斯噪音图片空间中是很小的一部分，就好像满天繁星，一方面它们可以说布满天空，另一方面天球幕布上的空隙多得很。反向生成图片的时候，你先取任意一个高斯噪声图片，它几乎不可能是你得到过的100万张中的一个，但是它肯定很“接近”其中一个。而对100万张图片的反向学习中，你知道怎么反向这一张。

有这个元素，我觉得就是正确的理解。

[verdelite]

我觉得你的理解是对的。

你的理解中有这样的元素：比如训练图集10000张，每张以100种方式虚化到高斯噪音，总共得到100万个高斯噪音图片。这在全部高斯噪音图片空间中是很小的一部分，就好像满天繁星，一方面它们可以说布满天空，另一方面天球幕布上的空隙多得很。反向生成图片的时候，你先取任意一个高斯噪声图片，它几乎不可能是你得到过的100万张中的一个，但是它肯定很“接近”其中一个。而对100万张图片的反向学习中，你知道怎么反向这一张。

有这个元素，我觉得就是正确的理解。

我觉得你这个理解，大部分正确，还差一点点。那就是：你给这满天繁星中精确的一颗，也不一定能恢复出当初训练的那一张。可能会混进各种各样的别的繁星的影响，可能和训练的那张接近一些。

[verdelite]

hci, verdelite, 你们回答了我的问题，把意识和能力解释得很清楚，受教了。然后我问下一个问题，想听听你们的想法。假如意识可以实现，那对于机器的学习或创造能力是一种加持还是一种负担？假如机器有了意识，这是一种人类可控的意识吗？还是一种独立于人类，可以自主创造机器文化，机器伦理，机器道德的意识？换句话说，发展人工智能的最终目的是什么？人类探索未知，挑战自我，目的是为了更好为人类服务，对吗？

这些我都没深入想过。。。特别是第一个问题，没想过。原先假定没有意识就不能很好地发挥作用。但是现在觉得这很可能不是那么回事。

对我来说，我为探索未知而探索，是为了自我实现，满足好奇心，不是为了为人类服务。

[hci]

我的态度已经很明确了。就是我不认为意识是一个造物，可以被人为实现。所以不可能存在有自我意识的机器。

主流心理学反对现在AI能有意识的原因，不太一样，而是认为现在心理学连意识到底怎么回事都不是很清楚，怎么可能造出意识来。

我在开一个人工智能的公司，我认为，发展人工智能的最终目的，就是造出具有智能的机器人，代替人类工作，为人类服务。这种机器人，当然没有自我意识（见上）。所以一切关于机器有了意识怎么办的问题，都是假问题。

hci, verdelite, 你们回答了我的问题，把意识和能力解释得很清楚，受教了。然后我问下一个问题，想听听你们的想法。假如意识可以实现，那对于机器的学习或创造能力是一种加持还是一种负担？假如机器有了意识，这是一种人类可控的意识吗？还是一种独立于人类，可以自主创造机器文化，机器伦理，机器道德的意识？换句话说，发展人工智能的最终目的是什么？人类探索未知，挑战自我，目的是为了更好为人类服务，对吗？

[xexz]

还原论，是扯淡，是扯淡，是扯淡淡淡。。。

‘动物意识’这种‘物质现象’的‘物质基础’是处在‘特定的正常生理活动中的脑组织’之上的(饿晕了，砸蒙了，睡着了（似乎做梦中也有一定认识能力）就不正常)，这个物质基础里面肯定具有所有的/我们已经有所认识的/或者还完全没有认识的物理的/化学的/生物大分子的/细胞的/组织间的各种‘物质活动’，把他还原成一种最简单的物理过程，显然是一种傻屌的想法。

‘more is different’ ,‘but not zhe same .“

量变到质变是复杂性衍生/进化过程带来的，其过程本质是随机的，同一堆‘夸克’上由’上帝/自然‘造的和由人工造的是同一个东西的几率应该是微乎其微。

人造的是‘人工智能’，不是‘人的智能’。

我们的口号是’大头造人工智能，小头造人的智能‘。

[verdelite]

还原论，是扯淡，是扯淡，是扯淡淡淡。。。

‘动物意识’这种‘物质现象’的‘物质基础’是处在‘特定的正常生理活动中的脑组织’之上的(饿晕了，砸蒙了，睡着了（似乎做梦中也有一定认识能力）就不正常)，这个物质基础里面肯定具有所有的/我们已经有所认识的/或者还完全没有认识的物理的/化学的/生物大分子的/细胞的/组织间的各种‘物质活动’，把他还原成一种最简单的物理过程，显然是一种傻屌的想法。

‘more is different’ ,‘but not zhe same .“

量变到质变是复杂性衍生/进化过程带来的，其过程本质是随机的，同一堆‘夸克’上由’上帝/自然‘造的和由人工造的是同一个东西的几率应该是微乎其微。

人造的是‘人工智能’，不是‘人的智能’。

这种态度不赞成。牛顿如果和你一样想法，现在也没有牛顿力学。该摒弃次要因素的时候就要摈弃，抓主要矛盾。歼灭敌主力就基本上胜了。

[xexz]

我们的口号是’大头造人工智能，小头造人的智能‘。

这种态度不赞成。牛顿如果和你一样想法，现在也没有牛顿力学。该摒弃次要因素的时候就要摈弃，抓主要矛盾。歼灭敌主力就基本上胜了。