意识最核心特征是区分自我和世界

[Caravel]

这是我在另外一捧文章里面想表达的核心思想。（
viewtopic.php?t=739852）

一个程序，哪怕再强大，不能区分自我和世界，也不能称之为有意识。

目前人类创造的东西里面，最接近有意识的就是LLM。因为LLM可以在广泛的对话里面可以区分自我跟提问的人。

目前的LLM世界是2个人。

所以我想的是能不能在多agent环境下增强这一能力？就是从两个人到多个人？

LLM和我们以前见过的生物智能都不一样，他的观察行动空间都是文本，但是这并不能否定他有智能和意识。当然没有物理实体说明了他没有办法在物理世界里面独立生存，但是可以依附于人类文明而存在。

[bihai]

这是我在另外一捧文章里面想表达的核心思想。（
viewtopic.php?t=739852）

一个程序，哪怕再强大，不能区分自我和世界，也不能称之为有意识。

目前人类创造的东西里面，最接近有意识的就是LLM。因为LLM可以在广泛的对话里面可以区分自我跟提问的人。

目前的LLM世界是2个人。

所以我想的是能不能在多agent环境下增强这一能力？就是从两个人到多个人？

LLM和我们以前见过的生物智能都不一样，他的观察行动空间都是文本，但是这并不能否定他有智能和意识。当然没有物理实体说明了他没有办法在物理世界里面独立生存，但是可以依附于人类文明而存在。

这个很有意思。如果给人工智能加上摄像头，让它可以看到世界，并决定行走，比如waymo。但是最好是只有一个摄像头。如果它有一万个，会不会神经分裂？

只要一个摄像头，然后它如果看到镜子里的车，会怎么想？

[Caravel]

这个很有意思。如果给人工智能加上摄像头，让它可以看到世界，并决定行走，比如waymo。但是最好是只有一个摄像头。如果它有一万个，会不会神经分裂？

只要一个摄像头，然后它如果看到镜子里的车，会怎么想？

没那么简单，有摄像头还不够，关键要在神经网络里面形成统一的认识

[wdong]

这是我在另外一捧文章里面想表达的核心思想。（
viewtopic.php?t=739852）

一个程序，哪怕再强大，不能区分自我和世界，也不能称之为有意识。

目前人类创造的东西里面，最接近有意识的就是LLM。因为LLM可以在广泛的对话里面可以区分自我跟提问的人。

目前的LLM世界是2个人。

所以我想的是能不能在多agent环境下增强这一能力？就是从两个人到多个人？

LLM和我们以前见过的生物智能都不一样，他的观察行动空间都是文本，但是这并不能否定他有智能和意识。当然没有物理实体说明了他没有办法在物理世界里面独立生存，但是可以依附于人类文明而存在。

你说得非常对！

[bihai]

没那么简单，有摄像头还不够，关键要在神经网络里面形成统一的认识

摄像头很关键啊。其实，统一的认识是通过摄像头观察，和身体移动来实现的。就是学习了他具有单一的身体。不是说，他现有了单一身体的意识，然后去控制单一的身体。

如果机器能控制三个分布在世界不同地区的身体，有不同的摄像头和身体控制，那么他就可以形成能控制三个分身的意识。

[Caravel]

摄像头很关键啊。其实，统一的认识是通过摄像头观察，和身体移动来实现的。就是学习了他具有单一的身体。不是说，他现有了单一身体的意识，然后去控制单一的身体。

如果机器能控制三个分布在世界不同地区的身体，有不同的摄像头和身体控制，那么他就可以形成能控制三个分身的意识。

摄像头只是一个工具，类似于视网膜，但是信号怎么进入大脑encode？

[bihai]

摄像头只是一个工具，类似于视网膜，但是信号怎么进入大脑encode？

我是说一个或者一对摄像头很关键，而不是搞1000个分散在各地。只有你有一对，和身体在一起移动，那么就会形成一个有自身的意识。他得能看到周围景物变化和自身移动的关系。最后看到自己。

如果你上1000对摄像头，那往好了说，他就意识到他有1000个分身。

人类有一个自我的意识，和眼睛在脑袋上关系很大。如果看的东西是随意在任何地方移动，和身体无关，看的东西摸不到，那形成不了现在这种自我身体的意识。就是说，你给人工智能只看视频，不给摄像头、身体，触觉这样的硬件，他不会形成类似人的身体感知和自我感知。

至于信号最后怎么处理，这个神经网络慢慢自己学去

[stonesthat]

这是我在另外一捧文章里面想表达的核心思想。（
viewtopic.php?t=739852）

一个程序，哪怕再强大，不能区分自我和世界，也不能称之为有意识。

目前人类创造的东西里面，最接近有意识的就是LLM。因为LLM可以在广泛的对话里面可以区分自我跟提问的人。

目前的LLM世界是2个人。

所以我想的是能不能在多agent环境下增强这一能力？就是从两个人到多个人？

LLM和我们以前见过的生物智能都不一样，他的观察行动空间都是文本，但是这并不能否定他有智能和意识。当然没有物理实体说明了他没有办法在物理世界里面独立生存，但是可以依附于人类文明而存在。

我从小就这么想的（把句子里的LLM替换成软件），我觉得大部分人最naive 的时候应该就是这样想的。这不一定就不对，有可能是一个有共识的起点。
但最近看 wdong 的原子意识论，感觉这种想法不兼容。