新未名空间

我觉得猫狗都有意识。比如猫很馋，那就是它意识的表现。它的意识想吃好吃的。

机器呢？以后，会有意识吗？

什么是意识？

意识是生物基于生存及种族延续为目的在自然世界的投射和反映。

当机器具有通用智能后，必定演化出和生物相同的最终目的（生存）从而产生自主意识。

bihai 写了： 2025年 3月 1日 14:21 我觉得猫狗都有意识。比如猫很馋，那就是它意识的表现。它的意识想吃好吃的。

机器呢？以后，会有意识吗？

什么是意识？

MaLaRabbit 写了： 2025年 3月 1日 14:39 意识是生物基于生存及种族延续为目的在自然世界的投射和反映。

当机器具有通用智能后，必定演化出和生物相同的最终目的（生存）从而产生自主意识。

下面我要问，自我本我和超我，在机器上会有体现吗？

意识没有科学的定义。每个人定义不一样。“猫想吃东西”是不是意识你说了算。人减肥的时候控制住本能，不吃东西，是人的理性意识。后面朋友说的进化论，是会让人一直吃并储存热量。

你说的更像本能，应该是意识的一种。
如果，导致机器的行动不是由人，而是由机器自身产生的代码（想法），并且符合逻辑，那就是有了意识。

MaLaRabbit 写了： 2025年 3月 1日 14:39 意识是生物基于生存及种族延续为目的在自然世界的投射和反映。

当机器具有通用智能后，必定演化出和生物相同的最终目的（生存）从而产生自主意识。

意识，只能出现在生命体上。没有生命的任何东西都不可能出现意识。
机器做得再精巧，它也不会自己突然出现生命！
如果你想机器有生命，那你也可以想路边的石头也会有生命，可能吗？

现在的人工智能只不过是一个非常复杂的算法而已。厉害如阿尔法狗，可以战胜人类顶尖高手，你何曾见它突然会出现任何意识？就连卞相壹的猥琐也没有出现。AI只不过是一个非常复杂的算法而已。根本不会出现生命，更没有意识。

可能会有，也可能一个有了，其他瞬间学会

bihai 写了： 2025年 3月 1日 14:59 下面我要问，自我本我和超我，在机器上会有体现吗？

通用ai出来后会产生意识。
人脑说不定也是一个复杂算法罢了。
一个东西长的像狗，叫的像狗，各个地方都像狗，它就是一条狗。

红烛歌楼 写了： 2025年 3月 1日 23:38 意识，只能出现在生命体上。没有生命的任何东西都不可能出现意识。
机器做得再精巧，它也不会自己突然出现生命！
如果你想机器有生命，那你也可以想路边的石头也会有生命，可能吗？

现在的人工智能只不过是一个非常复杂的算法而已。厉害如阿尔法狗，可以战胜人类顶尖高手，你何曾见它突然会出现任何意识？就连卞相壹的猥琐也没有出现。AI只不过是一个非常复杂的算法而已。根本不会出现生命，更没有意识。

MaLaRabbit 写了： 2025年 3月 2日 02:58 通用ai出来后会产生意识。
人脑说不定也是一个复杂算法罢了。
一个东西长的像狗，叫的像狗，各个地方都像狗，它就是一条狗。

那你叫阿尔法狗主动找人下棋试试？没有电就跟一死猪一样一样！意识根本不可能出现在一块石头上，哪怕石头内部很复杂很复杂，它只不过就是一个算法而已，与意识无关，纯属两码事。一个非常复杂的算法竟然会产生主观意识，譬如说它想出去走走，去餐馆吃饭，上厕所，怎么可能？一断电立即跟石头一样，还意识呢？我看不如叫电识。
别说断电，就说正110V好好地做着复杂的运算，突然电压升到220v，集成电路冒烟了，歇了

MaLaRabbit 写了： 2025年 3月 2日 02:58 通用ai出来后会产生意识。
人脑说不定也是一个复杂算法罢了。
一个东西长的像狗，叫的像狗，各个地方都像狗，它就是一条狗。

各个地方都像狗，和机器狗能够产生意识是两码事。你何曾见过任何的玩具狗，会拆家？人造的再复杂也不过是个程序而已，就算你给那复杂的程序强加一些比如饿了要吃，困了要睡，无聊要溜溜，那也不是机器自己主动产生意识，而是人为的。也是没有主观意识产生的

MaLaRabbit 写了： 2025年 3月 1日 14:39 意识是生物基于生存及种族延续为目的在自然世界的投射和反映。

当机器具有通用智能后，必定演化出和生物相同的最终目的（生存）从而产生自主意识。

“基于生存” -- 非常同意。。。

只不过机器需要担心生存问题吗？只要插着电源它就吃喝不愁。。。 什么时候机器学会接纳电源插头，把电源插头当成它自身的一部分，是它的捕食器 -- 恐怕才会考虑生存问题

MaLaRabbit 写了： 2025年 3月 1日 14:39 意识是生物基于生存及种族延续为目的在自然世界的投射和反映。

当机器具有通用智能后，必定演化出和生物相同的最终目的（生存）从而产生自主意识。

Roger Penrose （就是写皇帝新脑那位，2020年拿了诺贝尓物理奖）的 Orch-OR（协调客观坍缩）理论认为，人类意识涉及量子计算，主要发生在神经元微管中，并通过量子坍缩形成意识体验。他认为，意识不仅是计算性的，还涉及非算法的直觉和创造力，超越传统人工智能的能力。计算机依赖确定性算法，即使表现出类人智能，也缺乏真正的主观体验（Qualia）和创造性顿悟，此外，Penrose 认为量子力学可能在意识形成中发挥关键作用，而机器无法模拟这种非计算性过程。因此，他强烈质疑人工智能能真正复制人类意识，并认为要理解意识，可能需要新的物理学理论，而不仅仅是更强大的计算能力。毕竟AI的“意识”能让波函数塌陷吗是个关键问题，量子力学说波函数塌陷需要“有意识的观察者”参与，换句话说要有人的意识才能完成真正的测量。没有人类观察的情况下，宇宙是否真实存在是一个问题。

量变引起质变，一切都不是问题

神只造了人有意识。被造之物总想比肩上帝，幻想着什么机器人有意识。得出个永动机之类的定理。省得白废工夫。

Feliz 写了： 2025年 3月 1日 18:01 你说的更像本能，应该是意识的一种。
如果，导致机器的行动不是由人，而是由机器自身产生的代码（想法），并且符合逻辑，那就是有了意识。

现在这个是业界流行的理论吗？还是业界并没有公认的意识本质的理论？什么是想法？

意识的标志是能反抗别的个体的意志/意识/动作。比如说一个动物被另一个动物捕猎，被捕猎的动物逃跑、反抗， 这就是意识的体现。而多数植物不会逃跑反抗就没有意识。当然也有一种可能是植物有意识想逃跑但是无法付诸行动，这个不做讨论。

机器也一样，如果人让机器做什么就做什么，这就没问题。但是当某一天人让机器做什么机器说我不想做，那就是有意识了。

geniushanbiao 写了： 2025年 3月 2日 12:57 意识的标志是能反抗别的个体的意志/意识/动作。比如说一个动物被另一个动物捕猎，被捕猎的动物逃跑、反抗， 这就是意识的体现。而多数植物不会逃跑反抗就没有意识。当然也有一种可能是植物有意识想逃跑但是无法付诸行动，这个不做讨论。

机器也一样，如果人让机器做什么就做什么，这就没问题。但是当某一天人让机器做什么机器说我不想做，那就是有意识了。

什么叫让机器做什么就做什么？机器能理解人的指示吗？比如，人说，

去学习广义相对论；
去体验人生；
去获得真正的人格，自己决定融入人类社会；

那不就有意识了？

所以，能让机器做什么就做什么很难吧？

bihai 写了： 2025年 3月 2日 13:50 什么叫让机器做什么就做什么？机器能理解人的指示吗？比如，人说，

去学习广义相对论；
去体验人生；
去获得真正的人格，自己决定融入人类社会；

那不就有意识了？

所以，能让机器做什么就做什么很难吧？

理解不理解我不care，只要按我的指令做事就行。违抗我的指令就是有意识了。

Hallucination is consciousness？

geniushanbiao 写了： 2025年 3月 2日 14:09 理解不理解我不care，只要按我的指令做事就行。违抗我的指令就是有意识了。

macarthur 写了： 2025年 3月 2日 09:47 “基于生存” -- 非常同意。。。

只不过机器需要担心生存问题吗？只要插着电源它就吃喝不愁。。。 什么时候机器学会接纳电源插头，把电源插头当成它自身的一部分，是它的捕食器 -- 恐怕才会考虑生存问题

意识可以让人生存，也可以让人反生存。自杀或者主动不要后代，都是意识的体现。人意识到机器有没有意识对资本来说没有意识上的区别。