意识的起源

[红烛歌楼]

“呆闷了想出去走走，心情不爽了想发泄一下，或沉迷于游戏，或喜欢画画，或喜欢雕刻，或……”

你说的这些都是程序，和肚子饿了想吃饭一样，跟意识没关系。

你的计算机再有复杂的程序，他也不会说哪天它突然心情低落了只因为它就是一块石头而已

[wdong]

问题是，你的计算机不可能呆闷了，只要环境保持良好，你的计算机呆你的房间里，即使是千万年它也不会出现意识说我呆闷了

假设我们有一个比较智能的神经网络，比如就是chatgpt吧。然后我给这个神经网络定一个目标，就是它要在它的内存里装进去尽可能多的信息。从这个开始，我就可以推出来呆闷。

这个神经网络在闲着的时候会开始压缩自己的内存。当它没法再压缩时，就会觉得呆闷，然后就会上网去获取新的信息。
它甚至会觉得自己内存不够大，如果它可以花钱，也会花钱给自己升级硬件获得更大的内存。

当它内存已经99%满时你去跟它聊天，你就会观测到它不耐烦你。

这些都很好解释。

[红烛歌楼]

好

[红烛歌楼]

假设我们有一个比较智能的神经网络，比如就是chatgpt吧。然后我给这个神经网络定一个目标，就是它要在它的内存里装进去尽可能多的信息。从这个开始，我就可以推出来呆闷。

这个神经网络在闲着的时候会开始压缩自己的内存。当它没法再压缩时，就会觉得呆闷，然后就会上网去获取新的信息。
它甚至会觉得自己内存不够大，如果它可以花钱，也会花钱给自己升级硬件获得更大的内存。

这些都很好解释。

好的，你赶紧搞出这样的程序，然后慢慢再出现它想结婚生孩子了等等高级意识

[红烛歌楼]

假设我们有一个比较智能的神经网络，比如就是chatgpt吧。然后我给这个神经网络定一个目标，就是它要在它的内存里装进去尽可能多的信息。从这个开始，我就可以推出来呆闷。

这个神经网络在闲着的时候会开始压缩自己的内存。当它没法再压缩时，就会觉得呆闷，然后就会上网去获取新的信息。
它甚至会觉得自己内存不够大，如果它可以花钱，也会花钱给自己升级硬件获得更大的内存。

这些都很好解释。

以前的人想点石成金，
你是想点石成命吗？呵呵

[wdong]

好的，你赶紧搞出这样的程序，然后慢慢再出现它想结婚生孩子了等等高级意识

你不会写程序，可能对这些有神秘感。这些都是当今技术已经实现了的东西。现在面临的问题不是这些多愁善感写诗作画的问题，而是AI写程序写得不够好的问题。

[红烛歌楼]

你不会写程序，可能对这些有神秘感。这些都是当今技术已经实现了的东西。

问题是两块石头真的能结合生出小石子吗？

[红烛歌楼]

你不会写程序，可能对这些有神秘感。这些都是当今技术已经实现了的东西。现在面临的问题不是这些多愁善感写诗作画的问题，而是AI写程序写得不够好的问题。

哦，有那种游戏，养小动物的游戏，什么它饿了要吃东西……，那都是人为编程的。至于AI嘛，估计也不难，难的是你的电脑怎么两个结合生小电脑，喝水怎么喝进去，病了怎么吃点药就好，而不是改程序

[wdong]

问题是两块石头真的能结合生出小石子吗？

如果你说计算机==石头的话，那么石头是一个生态环境。里面的生命是程序，或者agent。在石头的资源范围内，可以支撑多个agent。Agent繁殖是很自然的事情。

生命是物质的组合方式。繁殖只是组合方式变了，物质本身并没有变得更多。

[红烛歌楼]

你不会写程序，可能对这些有神秘感。这些都是当今技术已经实现了的东西。现在面临的问题不是这些多愁善感写诗作画的问题，而是AI写程序写得不够好的问题。

想象一下，哪天你的手机自己走出门去溜达去了，你说你是该哭呢还是该高兴呢？或者你的房子也是，你不得哭？

[wdong]

哦，有那种游戏，养小动物的游戏，什么它饿了要吃东西……，那都是人为编程的。至于AI嘛，估计也不难，难的是你的电脑怎么两个结合生小电脑，喝水怎么喝进去，病了怎么吃点药就好，而不是改程序

你想想目前世界上电脑生产的过程，整个过程抽象下来无非就是涉及到人+机械+程序。你想人在这个过程中占百分之几的作用，其中有多少是未来不可替代的？哪怕手机CPU中的晶体管单元目前也是十亿起步，不都是机器自己生产出来的？

[红烛歌楼]

你想想目前世界上电脑生产的过程，抽象下来无非就是涉及到人+机械+程序。你想人在这个过程中占百分之几的作用，其中有多少是未来不可替代的？

是。但是现代科技再高级，也不可能拿一些元素合成出来生命

[红烛歌楼]

你想想目前世界上电脑生产的过程，整个过程抽象下来无非就是涉及到人+机械+程序。你想人在这个过程中占百分之几的作用，其中有多少是未来不可替代的？

就一句话，古人妄想点石成金
你想的是点石成命呵呵

[wdong]

就一句话，古人妄想点石成金
你想的是点石成命呵呵

不是我想，是命就是这么work的。生命的特点就是越来越多。草履虫，我们，电脑，其实是一个命的不同分支和不同阶段。

[Caravel]

我认同你对上帝和因果的观点。

物理不反对时间倒着走这个是错的。时间可逆只在两个观测点之间适用。你掷硬币，最终会产生一个bit的信息。这个观测结果一旦产生不可能再退回去。一般情况下微观观测不会影响宏观结果。但是在不稳定态需要导致自发对称性破缺时，微观结果会层层升格直到影响宏观结果。这是为啥我觉得买不买股票的决定有可能就是由一个微观粒子做出的。（行格势禁，导致人的神经网络决定有20%的可能性买，有80%的可能性不买，这个是理性/计算，跟意识没关系。但最后采样的那一下是意识决定的。意识采样时并不需要知道20%买的各种复杂的逻辑。）

我再举个例子。想象一个完全对称的三岔路口，有A, B, C三条路汇总到一点。 你从A往这个点滚一个玻璃球，球各有50%的可能性进入B或者C。假设进了B，你再倒着把球滚回来，即使所有参数完全无差别倒转，最后你回到A的可能性也只有50%。（按照我的模型，这个实验里的球就是有意识的，因为它出去的时候在B和C之间做了选择，回来的时候在A和C之间做了选择。或者说这个index在两个可能的平行宇宙间做了区分。人的所有选择和决定和这个无异，只是外面套了个更复杂的算法而已。)

所以物理学的时间倒着走，只有在两个观测点之间适用，或者说两个interaction之间适用。 用这个帖子的语言说话, 其实时间倒着走的适用范围只是在illusion内部。我觉得连续性也只是在illusion内部。

物理学里面微观层面规律，没有时间箭头，所以微观过程都可以反着走。通常的物理定律比如薛定谔方程，只是规定了随着时间的变化率满足一个关系，但是时间往小变化并没有排除。

宏观层面有一个热力学第二定律，一部分人认为它是时间箭头，一部分认为热力学第二定律也没有定义时间的方向，只是因为宇宙大爆炸的初态熵很低。

回到你的例子，你的球往回滚，完全可以回溯这一个过程，概率只是你多次实验的结果。

[wdong]

物理学里面微观层面规律，没有时间箭头，所以微观过程都可以反着走。通常的物理定律比如薛定谔方程，只是规定了随着时间的变化率满足一个关系，但是时间往小变化并没有排除。

宏观层面有一个热力学第二定律，一部分人认为它是时间箭头，一部分认为热力学第二定律也没有定义时间的方向，只是因为宇宙大爆炸的初态熵很低。

回到你的例子，你的球往回滚，完全可以回溯这一个过程，概率只是你多次实验的结果。

你说的“回溯”具体是指什么？ 我假设三岔路完美对称，那么从B往回回滚，岔路口有个择路算符，两个特征值各有50%的概率，我觉得怎么也回溯不出来一定会回到A。

我觉得时间箭头就是概率分布一旦被观测坍缩后就无法再回去。你怀疑老公/老婆出轨，本来不去看手机还只是怀疑，还能勉强接着过。有人非要去观测，一观测就回不去了。

[Caravel]

你说的“回溯”具体是指什么？ 我假设三岔路完美对称，那么从B往回回滚，岔路口有个择路算符，两个特征值各有50%的概率，我觉得怎么也回溯不出来一定会回到A。

我觉得时间箭头就是概率分布一旦被观测坍缩后就无法再回去。你怀疑老公/老婆出轨，本来不去看手机还只是怀疑，还能勉强接着过。有人非要去观测，一观测就回不去了。

不太相信波函数塌缩是时间箭头, 这玩意依赖于测量，现在量子力学没法精确定义什么是测量。没有测量的时候宇宙不演化了？

在一些量子力学解释里面，没有塌缩，比如decoherence，两个后果都还在，只是在目前这个state里面看不到。

[Zephyrca]

这就是我说的上帝的意识哪里来的问题，和我们的意识是一样的么？这属于智能不能判断问题。

另外有因必有果不一定是就是普适的，我们觉得天经地义很可能是bias。我昨天就想就像侦探去判案子，就是从结果反推。物理学不反对时间倒着走。这个只能这么类比一下，真正的我们是体会不了的。

有因必有果不一定是顺时间发生，也许有跳跃性，也许跨度很大

[红烛歌楼]

不是我想，是命就是这么work的。生命的特点就是越来越多。草履虫，我们，电脑，其实是一个命的不同分支和不同阶段。

低等生物，比如蚯蚓，被割两段，如果环境适合，就成了两只蚯蚓。希望你家的手机、电脑加载了你的AI程序，实现一分为二的突破，过几天就给你下一个手机、电脑。这样你就可以发了诺奖都不如改名糯奖，不如你的分裂繁殖方式。

[FoxMe]

薛定谔在《生命是什么》中，对意识有过讨论，忘了说的是啥

我认为答案其实很简单

意识其实就是一段程序，满足几个条件

1. 在一段时间内continuously run，有自己的clock也就是内部时间。这个很好实现。

2. 第二个有一些sensor是能sense外部世界

3. 他内部有一个内部潜在空间，他的神经网络可以把sense input model成一个自我和外部世界。

目前大模型可以很容易做到1，2勉强可以做到，但是3还是做不到，所以不能算是有意识。意识是生物体在生存竞争里面发展出来的，为了是避免被吃掉。入门未必需要很复杂的神经网络。当然对世界Model的越精准，意识和智能水平越高。