Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
版主： verdelite， TheMatrix
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
没有。我从40到50已经努力了10年，来日无多，不可能再做别的方向了。
没有光子；也没有量子能级，量子跃迁，量子叠加，量子塌缩和量子纠缠。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
不是。我不觉得你说的话对我有任何意义，在我眼里，你和以前我见到的那些我称之为宵小的人，没有什么两样。
我往这个方向走的初步工作，已经得到了确认，不过是难度超出我能深入做下去的程度而已。我希望能有人做下去，所以我愿意无私分享。
我很有自知之明，与我的同学们比起来，我一点都不牛逼，我的同学很多都成名了，是名副其实的大师了。我不过是有些小聪明而已，兴趣变化太快，坚持不够。当然也有好处，就是我的知识面可能比绝大多数人都要广点，所以大方向，看得比别人准一些，适合做幕僚之类的人才。没人让我做幕僚，我就上网指点一下江山，如此而已。能侮辱到我智商的人，目前我还没发现，估计也不太可能有了，我老了，不在乎这些了。
还有什么疑问？
我往这个方向走的初步工作，已经得到了确认，不过是难度超出我能深入做下去的程度而已。我希望能有人做下去，所以我愿意无私分享。
我很有自知之明，与我的同学们比起来，我一点都不牛逼，我的同学很多都成名了，是名副其实的大师了。我不过是有些小聪明而已，兴趣变化太快，坚持不够。当然也有好处，就是我的知识面可能比绝大多数人都要广点，所以大方向，看得比别人准一些，适合做幕僚之类的人才。没人让我做幕僚，我就上网指点一下江山，如此而已。能侮辱到我智商的人，目前我还没发现，估计也不太可能有了，我老了，不在乎这些了。
还有什么疑问？
弃婴千枝 写了： 2022年 9月 12日 01:48 你从心理学顺利转行到计算机，觉得世界很美好，自己很牛屄
于是对clifford algebra产生了错觉
我只不过指出clifford algebra不可能成为你人工智能的数学工具
而已
你感到你的伟大的智商受到了莫大侮辱
不就是这么回事情么？
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
https://github.com/juji-io/datalevin/bl ... search.cljhci 写了： 2022年 9月 11日 22:21 就不要强人所难了，他就一小镇做题家，百无一用。百无一用倒也罢了，还自以为是，这辈子，就只能过一种很悲惨的生活。
我看他可怜，点化一下，他跳得比哔哔还高。实在是很好笑的。他这种失败者，生活中其实不少。这个看不起，那个看不上。老买买提上追着我的，与他同类。这些人失败是有原因的，干什么都不能成功。看到我这种，随意从一个领域跳到另一个不相干的领域，到处都混得风生水起，他们嫉妒到要疯狂了，这可以理解。比如去年我老研究全文搜索引擎一个月，就改进算法，轻易打败Lucene。在这种人心中，是不可能做到的事。所以黑客新闻上，也有一群人追着我骂。哈哈。我都习以为常了。
这个？呵呵，你大多数时间在学术圈混，没有长期一线工程经验吧。
为具体问题定制的代码beat通用引擎，这一点也不稀奇，我以前帮人忙，用VC重写了matlab的code，性能提高两个数量级，又怎样？matlab又不靠性能取胜。
lucene用java，明摆着不追求性能啊；而且以我的经验，实战中lucene检索性能非常棒，index反正是offline的，慢一点影响不大。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
但是你的智商在clifford algebra前面受到了挑战，难度超越了你的想象
我觉得你这把年纪，没有10年，你根本啃不下来
我觉得你这把年纪，没有10年，你根本啃不下来
hci 写了： 2022年 9月 12日 02:03 不是。我不觉得你说的话对我有任何意义，在我眼里，你和以前我见到的那些我称之为宵小的人，没有什么两样。
我往这个方向走的初步工作，已经得到了确认，不过是难度超出我能深入做下去的程度而已。我希望能有人做下去，所以我愿意无私分享。
我很有自知之明，与我的同学们比起来，我一点都不牛逼，我的同学很多都成名了，是名副其实的大师了。我不过是有些小聪明而已，兴趣变化太快，坚持不够。当然也有好处，就是我的知识面可能比绝大多数人都要广点，所以大方向，看得比别人准一些，适合做幕僚之类的人才。没人让我做幕僚，我就上网指点一下江山，如此而已。能侮辱到我智商的人，目前我还没发现，估计也不太可能有了，我老了，不在乎这些了。
还有什么疑问？
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
我这当然不是为“具体问题定制”的，是一个通用搜索引擎。
Lucene不追求性能？人家得扇你耳掴子吧？Lucene追求性能到了极致，能用上的，都用上了。不要以为用Java写就不追求性能，JVM warm up之后，JIT比一般手写的C/C++代码要快，这是工业界常识。要不你用C写一个，能beat Lucene我就服你。Lucene在工业界这个难以撼动的地位，当然也是因为其性能很难被超越。所以不懂不要瞎说，好不好？
我这个工作，主要是在算法上有所创新。我这玩意还是用Clojure写的，照说更不讲性能了，尼玛都是到处都用了很多immutable数据结构，照说该慢死了。
语言的这些差异，与算法上的差异比起来，就是个屁，这么简单的道理，你不至于不懂吧？
Lucene不追求性能？人家得扇你耳掴子吧？Lucene追求性能到了极致，能用上的，都用上了。不要以为用Java写就不追求性能，JVM warm up之后，JIT比一般手写的C/C++代码要快，这是工业界常识。要不你用C写一个，能beat Lucene我就服你。Lucene在工业界这个难以撼动的地位，当然也是因为其性能很难被超越。所以不懂不要瞎说，好不好？
我这个工作，主要是在算法上有所创新。我这玩意还是用Clojure写的，照说更不讲性能了，尼玛都是到处都用了很多immutable数据结构，照说该慢死了。
语言的这些差异，与算法上的差异比起来，就是个屁，这么简单的道理，你不至于不懂吧？
gmo 写了： 2022年 9月 12日 02:08 https://github.com/juji-io/datalevin/bl ... search.clj
这个？呵呵，你大多数时间在学术圈混，没有长期一线工程经验吧。
为具体问题定制的代码beat通用引擎，这一点也不稀奇，我以前帮人忙，用VC重写了matlab的code，性能提高两个数量级，又怎样？matlab又不靠性能取胜。
lucene用java，明摆着不追求性能啊；而且以我的经验，实战中lucene检索性能非常棒，index反正是offline的，慢一点影响不大。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
难度不在于clifford algebra，而在于在上面构建概率分布，这是需要数学创新的工作，不属于挂在低处的果子，所以我就放弃了。
我学心理学的，很清楚，智商这个东西，对做出东西来，没有什么用处。我身边智商比我高的人，学数学学物理完全学不通，简直不可理喻。我们班智商最低的同学，全校象棋冠军。我们班男生的智商都比我低，我成就最小。所以你根本不懂我。
你看我怼人从来不怼人的智商问题，在我看来都是态度问题，主要是自大的问题。比如你这种，我不会留情面。自大是妨碍人类升级的主要障碍，佛教叫“无明”。你属于不可救药的，这辈子白过了，要留级。
我学心理学的，很清楚，智商这个东西，对做出东西来，没有什么用处。我身边智商比我高的人，学数学学物理完全学不通，简直不可理喻。我们班智商最低的同学，全校象棋冠军。我们班男生的智商都比我低，我成就最小。所以你根本不懂我。
你看我怼人从来不怼人的智商问题，在我看来都是态度问题，主要是自大的问题。比如你这种，我不会留情面。自大是妨碍人类升级的主要障碍，佛教叫“无明”。你属于不可救药的，这辈子白过了，要留级。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
你妈
你要在clifford algebra上面构建概率分布，
你要真明白clifford algebra就不会说这话了
我看你还是赶紧跟foxme成立clifford学习小组，
早日为人类文明做更大贡献
你要在clifford algebra上面构建概率分布，
你要真明白clifford algebra就不会说这话了
我看你还是赶紧跟foxme成立clifford学习小组，
早日为人类文明做更大贡献
hci 写了： 2022年 9月 12日 02:38 难度不在于clifford algebra，而在于在上面构建概率分布，这是需要数学创新的工作，不属于挂在低处的果子，所以我就放弃了。
我学心理学的，很清楚，智商这个东西，对做出东西来，没有什么用处。我身边智商比我高的人，学数学学物理完全学不通，简直不可理喻。我们班智商最低的同学，全校象棋冠军。我们班男生的智商都比我低，我成就最小。所以你根本不懂我。
你看我怼人从来不怼人的智商问题，在我看来都是态度问题，主要是自大的问题。比如你这种，我不会留情面。自大是妨碍人类升级的主要障碍，佛教叫“无明”。你属于不可救药的，这辈子白过了，要留级。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
在代数结构上构建概率分布，是已有人做过的工作，不需要我拉书单吧？
说说看， 为啥“真明白clifford algebra，就不会说这话了”， 你的理由是啥？我看你就会bluffing，说点具体的来看看？有啥根本的问题？我们都可以来学习一下。
说说看， 为啥“真明白clifford algebra，就不会说这话了”， 你的理由是啥？我看你就会bluffing，说点具体的来看看？有啥根本的问题？我们都可以来学习一下。
弃婴千枝 写了： 2022年 9月 12日 02:48 你妈
你要在clifford algebra上面构建概率分布，
你要真明白clifford algebra就不会说这话了
我看你还是赶紧跟foxme成立clifford学习小组，
早日为人类文明做更大贡献
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
我再来分享一下我看见的人工智能短期和长期的方向。其实我在4年前一个会上就讲过，目前看来，还是没有大的变化。
人工智能目前的主要问题，是如何把人的知识与机器学习的知识，混在一起用的问题。这个是各大公司都在投入的一个大问题。既然是混，就有个主次问题，以哪个为主？人的知识，还是机器从数据学来的为主？
上了机器学习hype马车的，认为在现有深学框架下，想办法把人的知识加进去就行。谷歌最近有很多这方面的工作，用图啦，强化学习啦，等等，看上去很有前途的样子，很AI，很智能。但这条路，我认为，是走不通的。起码短期内，就是烧钱而已。具体原因，可以去找一下我的talk，这儿不细说了。
另一条路，是常规的，看上去不怎么AI的，不怎么智能的，就是以人的知识为主，机器学习不过是补充。我司的口号“symbolics as the bones, data driven as the flesh"。 这条路，现在就work，将来，也是AI的主要的工作方式。据我所知，大部分公司，其实都是在走这条路。就算走这条路，也没有想象的容易，需要有很多投入。比如弄人类的知识，就是图搜索，而机器学习出的东西，一般是些向量，把他们搞在一起搜，其实是个数据库问题。我现在搞我的数据库，也是在为这条路服务，逐步加各种需要的特性。
上面是短期的。
长期的，一方面，希望有理论突破。比如上面第一条路，也许可以闯出条路子来，也许不能，至少也希望能有些成果，对理论突破有些帮助。否则就太对不起那些投入了。另外一面，就是数学理论的突破，一个可能的方向，就是我上面提到结合信息论和微分几何，也许上面提到的新数学有帮助，也许不能，都是不一定的事。最后，最重要的，最有可能改变局面的，是硬件的突破。其实CS的大变化，几乎都是硬件驱动的。
软件能玩的新花样，几乎都玩完了。数学上的东西，又是可遇而不可求的。所以，最大的可能推动实现强AI的东西，是硬件上有什么新玩意。2025年，太乐观了。我个人认为，得等到三战之后，各国经济恢复，中国新朝建立之后了。那时我们都早已作古了。所以我的预测，我们有生之年，不会有啥AGI， Strong AI, whatever you call it.
人工智能目前的主要问题，是如何把人的知识与机器学习的知识，混在一起用的问题。这个是各大公司都在投入的一个大问题。既然是混，就有个主次问题，以哪个为主？人的知识，还是机器从数据学来的为主？
上了机器学习hype马车的，认为在现有深学框架下，想办法把人的知识加进去就行。谷歌最近有很多这方面的工作，用图啦，强化学习啦，等等，看上去很有前途的样子，很AI，很智能。但这条路，我认为，是走不通的。起码短期内，就是烧钱而已。具体原因，可以去找一下我的talk，这儿不细说了。
另一条路，是常规的，看上去不怎么AI的，不怎么智能的，就是以人的知识为主，机器学习不过是补充。我司的口号“symbolics as the bones, data driven as the flesh"。 这条路，现在就work，将来，也是AI的主要的工作方式。据我所知，大部分公司，其实都是在走这条路。就算走这条路，也没有想象的容易，需要有很多投入。比如弄人类的知识，就是图搜索，而机器学习出的东西，一般是些向量，把他们搞在一起搜，其实是个数据库问题。我现在搞我的数据库，也是在为这条路服务，逐步加各种需要的特性。
上面是短期的。
长期的，一方面，希望有理论突破。比如上面第一条路，也许可以闯出条路子来，也许不能，至少也希望能有些成果，对理论突破有些帮助。否则就太对不起那些投入了。另外一面，就是数学理论的突破，一个可能的方向，就是我上面提到结合信息论和微分几何，也许上面提到的新数学有帮助，也许不能，都是不一定的事。最后，最重要的，最有可能改变局面的，是硬件的突破。其实CS的大变化，几乎都是硬件驱动的。
软件能玩的新花样，几乎都玩完了。数学上的东西，又是可遇而不可求的。所以，最大的可能推动实现强AI的东西，是硬件上有什么新玩意。2025年，太乐观了。我个人认为，得等到三战之后，各国经济恢复，中国新朝建立之后了。那时我们都早已作古了。所以我的预测，我们有生之年，不会有啥AGI， Strong AI, whatever you call it.
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
引用一下这最后一段，支持一下你对智商问题的看法。智商达到一定量就行了。做研究上，比别人反应快一点，没什么用。研究是一个长期啃的问题，又不是考做题那样还要求速度。hci 写了： 2022年 9月 12日 02:38 你看我怼人从来不怼人的智商问题，在我看来都是态度问题，主要是自大的问题。比如你这种，我不会留情面。自大是妨碍人类升级的主要障碍，佛教叫“无明”。你属于不可救药的，这辈子白过了，要留级。
以智商为傲的人，常常追求快速判断。这正是我认为的竞赛培训出来的人的缺点。前面我说过弃婴为代表的竞赛出来的人，经常随随便便dissmiss一个idea. 研究是突破框框，竞赛是在框框里快速做已知的题。两者很不一样。我是竞赛出身的，对这个感同身受。我曾经在两个科学进步上做了错误判断，印象深刻。不过这两次都在我发现世人皆傻之后。或许如果我不知道世人皆傻，我可能会blame 自己知识欠缺，而不是blame自己被训练出来的态度不对。
没有光子；也没有量子能级，量子跃迁，量子叠加，量子塌缩和量子纠缠。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
3三心二意的，不占主要精力。1和2，阅读都已完成，知识的提炼都弄完了，所以不怎么占有脑细胞了。放在脑子里不时想想。思考1为主，动手2为主，因为2我认为做出东西不需要新数学，干就完了。干成了再想新数学问题就容易了，数学家最会了。
没有光子；也没有量子能级，量子跃迁，量子叠加，量子塌缩和量子纠缠。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
没办法，我们学物理的都相信思维的第一性原理，你的永动机设计的再牛b哄哄，我们直接拿来檫屁股
If printing money would end poverty, printing diplomas would end stupidity.
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
物理里面论断千千万，大部分是有条件的，很多是不引起注意的隐含条件。可是由于大脑的工作原理，这些条件常常被人们忘记了或者一开始就没注意到。
没有光子；也没有量子能级，量子跃迁，量子叠加，量子塌缩和量子纠缠。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
这不是搞笑吗？微软研究院，阿里研究院，大公司的研究机构一般称为研究院。Amorphous 写了： 2022年 9月 12日 00:15 我记得台湾称grad school 为研究院。
如果你说的是research center，也蛮值得思考为啥你会这么说的。比如如果我说“我在研究中心的时候”，指代并不特定，通常我不会有这样模糊的表达。
好像台湾叫grad school 为研究所。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
说得好，有深度。信息论和微分几何的结合能否展开说说？为什么需要微分几何（我不懂微分几何）？以AI绘画为例，其本质是学习某类画之上的一个概率分布。其概率空间维数太高，很难处理，是不是把这类画用微分几何来建模？为什么要用到Clifford algebra?hci 写了： 2022年 9月 12日 03:39 我再来分享一下我看见的人工智能短期和长期的方向。其实我在4年前一个会上就讲过，目前看来，还是没有大的变化。
人工智能目前的主要问题，是如何把人的知识与机器学习的知识，混在一起用的问题。这个是各大公司都在投入的一个大问题。既然是混，就有个主次问题，以哪个为主？人的知识，还是机器从数据学来的为主？
上了机器学习hype马车的，认为在现有深学框架下，想办法把人的知识加进去就行。谷歌最近有很多这方面的工作，用图啦，强化学习啦，等等，看上去很有前途的样子，很AI，很智能。但这条路，我认为，是走不通的。起码短期内，就是烧钱而已。具体原因，可以去找一下我的talk，这儿不细说了。
另一条路，是常规的，看上去不怎么AI的，不怎么智能的，就是以人的知识为主，机器学习不过是补充。我司的口号“symbolics as the bones, data driven as the flesh"。 这条路，现在就work，将来，也是AI的主要的工作方式。据我所知，大部分公司，其实都是在走这条路。就算走这条路，也没有想象的容易，需要有很多投入。比如弄人类的知识，就是图搜索，而机器学习出的东西，一般是些向量，把他们搞在一起搜，其实是个数据库问题。我现在搞我的数据库，也是在为这条路服务，逐步加各种需要的特性。
上面是短期的。
长期的，一方面，希望有理论突破。比如上面第一条路，也许可以闯出条路子来，也许不能，至少也希望能有些成果，对理论突破有些帮助。否则就太对不起那些投入了。另外一面，就是数学理论的突破，一个可能的方向，就是我上面提到结合信息论和微分几何，也许上面提到的新数学有帮助，也许不能，都是不一定的事。最后，最重要的，最有可能改变局面的，是硬件的突破。其实CS的大变化，几乎都是硬件驱动的。
软件能玩的新花样，几乎都玩完了。数学上的东西，又是可遇而不可求的。所以，最大的可能推动实现强AI的东西，是硬件上有什么新玩意。2025年，太乐观了。我个人认为，得等到三战之后，各国经济恢复，中国新朝建立之后了。那时我们都早已作古了。所以我的预测，我们有生之年，不会有啥AGI， Strong AI, whatever you call it.
我个人感觉diffusion model回避了这个问题，加噪声的目的是平滑其概率分布（或者说抹平其流形）。想想也挺神奇的，一般对噪声避之唯恐不及，这里加了噪声居然更好。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
物理本质是‘吃多了就撑得慌’，类似‘金角大王银角大王’那样吃了多少个‘孙悟空’都不撑的‘宝葫芦空间’，我们并没有真的遇到过。所以本质上都是在描述‘真实空间的这个本质属性’，‘荷’‘流’向一点，这点的‘压’升高，什么荷什么流什么压都没关系，就像对称性一样，这是真实空间本身的性质。
就像你往论坛里使劲灌水，但是论坛始终没有压力，这就不是自然属性，一定是他妈的有人捣鬼，删数据库了。
至于强人工智能，我坚持自己的观点，还原论肯定是扯淡，衍生论/进化论是正确的，但是我相信，‘量变到质变的过程本质上是随机过程’，‘人工的复杂性’带来的智能是‘人工智能’，不是‘人的智能’，很可能有类似，恐怕本质上还是两种东西。
就像你往论坛里使劲灌水，但是论坛始终没有压力，这就不是自然属性，一定是他妈的有人捣鬼，删数据库了。
至于强人工智能，我坚持自己的观点，还原论肯定是扯淡，衍生论/进化论是正确的，但是我相信，‘量变到质变的过程本质上是随机过程’，‘人工的复杂性’带来的智能是‘人工智能’，不是‘人的智能’，很可能有类似，恐怕本质上还是两种东西。
Re: Diffusion Model 最近很火，谁谈谈？技术层面，哲学层面？
从第一性原理来说，这些想法都是很明显的，都不算什么深刻见识。上面零零碎碎不同人都提到了。数学工具是用来描述现象的。有什么现象，就要用相应的工具。
比如为什么要用微分几何？上面不是有人说了那么，机器学习，特别是深学，每一步都是在算微分，明显是在deal with一个高维流形。那么多参数，其实在approximate这个流形的各点。这当然很不efficient的。用微分几何，也许有简洁的公式来表示，而不需要用大量点来cover。也就是说，也许不需要那么多数据，那么多算力。
为什么用信息论，上面我说了，智能的本质就是墒减，或者叫压缩。心理学里面少有的几个严格定量关系，可以用信息论推出来。认知心理学刚开始的时候，认为认知就是信息处理。当然后来认知心理学被犹太人带偏了路，天天搞什么bias，入了歧途，那是后话。
要用信息论，那就得把概率分布搞清楚。这些分布的support，当然是信息处理的input/output的参数空间。人类知道的代表空间的学问，就是几何。这就是为什么要用Clifford algebra， 因为它其实是几何代数，它直接表示空间，很直观。各个维度的basis，都有相应的量直接表示，正负直接就代表方向（手性）。在这个代数中，一切空间算符，平移也好，缩放也好，都可简化为同一个算符，那就是旋转。还有一个极大的好处，这个代数很容易得出coordinate-free的结论。这样需要学很多本书的数学，都可统一到一本书中，还能更深刻的揭示其相互关系。我上面提了，整个物理学，可以用几何代数极大的简化。所以发展这一套的物理学家，频频被物理学会授予教育奖，这应该就是物理学会官方的态度。
用几何代数做概率抽样空间，具体可有何好处？上面提了，智能的本质是压缩，信息能压缩，主要是靠空间的对称性。说到对称性，不就是各种群么，这些在几何代数中，都是自然而然产生的直观的东西（见上面提到的coordinate-free特性）。有了更好的描述工具来描述抽样空间，搞出上面的分布，应该更容易。当然这也是新的复杂的工作。毕竟传统概率论，是建立在实线上的。在其他代数结构上建立，有很多不同的情况。目前的进展，主要是在随机群，方法主要是傅里叶分析。这些东西，以几何代数为基础，都应能被简化。
不知是否回答了你的问题。
所谓新数学，也没什么难的。大家想象一下，向量代数，你觉得容易，可你从初中开始就在学了。如果初中不教什么cross product，而是教outer product，可能也不觉得有什么难的。不要忘了，几何代数这一套，其实最初是一个德国中学老师发展出来的，也就是你们说的民科。作为民科，他不受当时大数学家的待见而已。后来clifford发现了这个民科的东西，觉得很好。可惜clifford死的太早，否则，我们的数学教育，会不一样。历史开了个玩笑，如此而已。这就是所谓的“世人皆傻”。哈哈。
比如为什么要用微分几何？上面不是有人说了那么，机器学习，特别是深学，每一步都是在算微分，明显是在deal with一个高维流形。那么多参数，其实在approximate这个流形的各点。这当然很不efficient的。用微分几何，也许有简洁的公式来表示，而不需要用大量点来cover。也就是说，也许不需要那么多数据，那么多算力。
为什么用信息论，上面我说了，智能的本质就是墒减，或者叫压缩。心理学里面少有的几个严格定量关系，可以用信息论推出来。认知心理学刚开始的时候，认为认知就是信息处理。当然后来认知心理学被犹太人带偏了路，天天搞什么bias，入了歧途，那是后话。
要用信息论，那就得把概率分布搞清楚。这些分布的support，当然是信息处理的input/output的参数空间。人类知道的代表空间的学问，就是几何。这就是为什么要用Clifford algebra， 因为它其实是几何代数，它直接表示空间，很直观。各个维度的basis，都有相应的量直接表示，正负直接就代表方向（手性）。在这个代数中，一切空间算符，平移也好，缩放也好，都可简化为同一个算符，那就是旋转。还有一个极大的好处，这个代数很容易得出coordinate-free的结论。这样需要学很多本书的数学，都可统一到一本书中，还能更深刻的揭示其相互关系。我上面提了，整个物理学，可以用几何代数极大的简化。所以发展这一套的物理学家，频频被物理学会授予教育奖，这应该就是物理学会官方的态度。
用几何代数做概率抽样空间，具体可有何好处？上面提了，智能的本质是压缩，信息能压缩，主要是靠空间的对称性。说到对称性，不就是各种群么，这些在几何代数中，都是自然而然产生的直观的东西（见上面提到的coordinate-free特性）。有了更好的描述工具来描述抽样空间，搞出上面的分布，应该更容易。当然这也是新的复杂的工作。毕竟传统概率论，是建立在实线上的。在其他代数结构上建立，有很多不同的情况。目前的进展，主要是在随机群，方法主要是傅里叶分析。这些东西，以几何代数为基础，都应能被简化。
不知是否回答了你的问题。
所谓新数学，也没什么难的。大家想象一下，向量代数，你觉得容易，可你从初中开始就在学了。如果初中不教什么cross product，而是教outer product，可能也不觉得有什么难的。不要忘了，几何代数这一套，其实最初是一个德国中学老师发展出来的，也就是你们说的民科。作为民科，他不受当时大数学家的待见而已。后来clifford发现了这个民科的东西，觉得很好。可惜clifford死的太早，否则，我们的数学教育，会不一样。历史开了个玩笑，如此而已。这就是所谓的“世人皆傻”。哈哈。
FoxMe 写了： 2022年 9月 12日 10:13 说得好，有深度。信息论和微分几何的结合能否展开说说？为什么需要微分几何（我不懂微分几何）？以AI绘画为例，其本质是学习某类画之上的一个概率分布。其概率空间维数太高，很难处理，是不是把这类画用微分几何来建模？为什么要用到Clifford algebra?
我个人感觉diffusion model回避了这个问题，加噪声的目的是平滑其概率分布（或者说抹平其流形）。想想也挺神奇的，一般对噪声避之唯恐不及，这里加了噪声居然更好。
上次由 hci 在 2022年 9月 12日 13:23 修改。