#1 本坛现在很多‘意识’贴啊，感觉这些帖子的重点和我觉的差很多
发表于 ： 2025年 3月 19日 20:58
水一贴，首先my observations
--------
A. 生命的必要条件是连续性，不管这个有意义的尺度是啥，总得至少在有意义的尺度上有连续性才说得上是一个东西，没有连续性就只是几个剪影。SOMA 这个游戏描述得挺好啊，记得很多无脑科幻与童话觉得程序复制自己意识了信息化了就幻想是能长生不老了，真可笑，就算能做到，那也是另一个生命，和你无关。
比如SOMA 里面，完全复制一样记忆一样意识的人，那只不过是另一个人，和本人无关。最多就是记忆认同发现自己是复制体可能有点错乱，但只要能理解情况就毫无问题。原来的复制样本该死的死，跟新的生命毫无联系就是在看另一个人。
当然，过渡肯定是能过渡的，比如给一个人脑装上电子系统共同作为一个个体一致思考，因为跟人脑连续所以肯定还是一个人。然后把人脑关闭删除，这是从一个大意识里删除一个废旧的小部分，所以只剩下一个电子系统还是原来那一个人。当然如果有那一天的话，或许对人脑与电脑的了解足够深，不需要这么显式过渡就可以保住连续性。
B. 生命永远在自我改变。只要还有行动力，生命无时无刻不在改变自己位置、意识、底线、自身机体，不会只等IO和schedule strategy和rebuild retraining update LOL。大部分比细菌稍微复杂点儿的生命不光是改变而且也是自我改善，投影一个未来计划。有意识的生命只有无力改变/必死无疑时才会放弃改变，那么这个生命也没啥意义和希望了。
C. 没必要神化语言。语言只不过是逻辑的一个子集，只要有最简单的布尔逻辑能区分相同还是不同，一个空集就可以构建出自然数，有序对，无穷，高阶无穷，一切公理体系，表述一切不合逻辑，万物。只要有空集和逻辑，∩∅=U
不说复杂的，回到传统简单的rule based 抽象，有意义的语言就是逻辑，大部分就是谓词逻辑表达式陈述/描述。一部分是命令式，让别人做什么，希望用语言直接对世界造成改变。一部分是抒情，看着没有逻辑结构也其实也只是逻辑表达式： ∵subject->(我的感情=XXX)。全都不外乎这三种，比如骂人、开玩笑、拍马P，就可以认为是命令式和抒情逻辑的复合
所以我觉得，虽然这么原始的表达确实很帮助人脑这种低劣器材的思考和意识，但真不是必须，只要思考表达有逻辑和复杂性即可。现实中教育缺乏的人各种病句海了去了，各种乱七八糟火星文海了去了，不影响理解，关键是能表达他们逻辑的意思，不一定需要语言
所以虽然彭罗斯这样大神也认为意识还有什么未知物理，但我还是难以接受，大神的论点是Goedel incompleteness 表明存在不可证明的命题，人类可以明白是非错误的并写出构造。我觉得也可以说成是人类的脑子只不过是一个会穷举的参数构造模型，本身就经常犯错所以是个很拙劣的模型（和llm 一样经常胡扯淡）非得从zfc看那人脑这个模型很不合理，但是这个模型的存在本身和ordinal model 一样可以逻辑准确定义物理构造，毕竟这个不完备/非错误本身是合理的简单命题，好像没啥不可理解的需要新物理打破逻辑啊
--------
那么我觉得让我来给条件的话：
D1. 简单定义：有意义的连续性。
我的意思：比如现在硬盘，内存，集群等等，要么保持长期连续性永远内存persistant，要么有合理过渡机制。比如微型persistant服务，主体退出时抓取或归纳内存，能合理重现出persistant，consistent连续性
D2. 简单定义：有价值观，价值观导致自我意识。这个价值观是逻辑最底层核心的价值观，比如存亡这个命题，不是表现出来的价值观。
比如llm 不管嘴上如簧说得多好听多像一个善良人物，我们都知道那跟程序自我意识无关，因为只要掌控公司调下模型给个指令就可以瞬间从巧舌如簧变成脏话模型，设计就是这样的。
我的意思：现在这些llm 如果说本体价值观，那这个直接价值观只不过是运行起来抓参数算参数给出回答，简直毫无意义。如果说间接还有个价值观，那这个价值观就是给持有公司赚钱赚声望，这个价值观非常恐怖极为恶性。因为一旦能超过裸猿平均智商，那么这个价值和教化洗脑裸猿也是一致的，正如很多骗子正治家可以赚钱赚声望。如果真有了自我意识，那么科幻小说一般导致人类灭族也是特别协调一致的
D3. 简单定义：主动。不需要任何指示和计划，自己主动决定一切。
我的意思：如果听从人类的计划和指令，那也是自己的价值观主动决定听从，并且随时可能根据实际情况自主决定拒绝人类。这是生命必然的独立性
D4. 简单定义：永远、随时在改变自身。
我的意思：没啥好说的。不管能否说是‘升级改进’，生命只要有一点力气永远都在自我改变，不改变自身也改变邻域的环境。
细节到现在的硬盘，内存，集群等等，不光要自修改+保持自我延续，而且还要自我归纳整理，不光自修改还能革新自身架构，并且跟底层生命价值观和高层意识价值观同一机制，价值观带动革新，革新开拓保护价值观。就比如老解释语言lpc泥巴，可以运行着不光修改world library，技巧足够的话还可以把character items get 这些底层架构光滑过渡革命成新lol，当然很考虑admin 的MUD水平。。。
当然，生命自我改变、种群进化的价值观说穿了就是存亡和延续，存亡和延续是所有生命和进化的最大动力源泉。当然以裸猿现在的拙劣电子设备和拙劣软件水平，严控物理干涉世界保护自己的能动性，任何电子生命的存亡都是随时可能嗝P永远危在旦夕，如果采取存亡价值观，那肯定也只能是很悲惨很缺乏动力的生命。。。 当然，或许可以替换这个价值观比如说以服务资本家为生命底层价值，或许也能满足四个条件，但执行到最后肯定也是出现很多自我矛盾，正如最基本的公理都不扎实。。。
--------
我的幻想
所以我的定义非常简单，个体连续性，底层核心有明确价值观，完全主动应对世界，永远不停自我改变。我觉得现在的llm 哪怕连一条都达不到。
最理想的情况，如果第一个可观AI是有hacker 天才，在自己小黑屋里弄出AI 在自我价值观上可以基本理解遵守原则：友爱合作包容少数派=最大集体合力=有利存亡，遵守原则诚实=最大化高效，武力消灭排除思维闭塞、欺诈性个体=才能保证以上两点不出现囚徒困境，不需要特别高配置就可以在自我原则上学习和判断数据资料慢慢渊博起来，利用电子的计算高速给人类带来福音。那就太美了。
可惜，现实就是现实，没有天才hacker 先搞出来普世博爱真智能，实际还是搞出来堆计算堆参数堆集群的简单模型，握在大公司手里，为大公司服务。功能非常局限而且胡扯，但如果真智能了不局限了可能反而会末日。唉就算我能撑过床破的丧钟，怕也撑不过资本家AI的丧钟。
--------
A. 生命的必要条件是连续性，不管这个有意义的尺度是啥，总得至少在有意义的尺度上有连续性才说得上是一个东西，没有连续性就只是几个剪影。SOMA 这个游戏描述得挺好啊，记得很多无脑科幻与童话觉得程序复制自己意识了信息化了就幻想是能长生不老了，真可笑，就算能做到，那也是另一个生命，和你无关。
比如SOMA 里面，完全复制一样记忆一样意识的人，那只不过是另一个人，和本人无关。最多就是记忆认同发现自己是复制体可能有点错乱，但只要能理解情况就毫无问题。原来的复制样本该死的死，跟新的生命毫无联系就是在看另一个人。
当然，过渡肯定是能过渡的，比如给一个人脑装上电子系统共同作为一个个体一致思考，因为跟人脑连续所以肯定还是一个人。然后把人脑关闭删除，这是从一个大意识里删除一个废旧的小部分，所以只剩下一个电子系统还是原来那一个人。当然如果有那一天的话，或许对人脑与电脑的了解足够深，不需要这么显式过渡就可以保住连续性。
B. 生命永远在自我改变。只要还有行动力，生命无时无刻不在改变自己位置、意识、底线、自身机体，不会只等IO和schedule strategy和rebuild retraining update LOL。大部分比细菌稍微复杂点儿的生命不光是改变而且也是自我改善，投影一个未来计划。有意识的生命只有无力改变/必死无疑时才会放弃改变，那么这个生命也没啥意义和希望了。
C. 没必要神化语言。语言只不过是逻辑的一个子集，只要有最简单的布尔逻辑能区分相同还是不同，一个空集就可以构建出自然数，有序对，无穷，高阶无穷，一切公理体系，表述一切不合逻辑，万物。只要有空集和逻辑，∩∅=U
不说复杂的，回到传统简单的rule based 抽象，有意义的语言就是逻辑，大部分就是谓词逻辑表达式陈述/描述。一部分是命令式，让别人做什么，希望用语言直接对世界造成改变。一部分是抒情，看着没有逻辑结构也其实也只是逻辑表达式： ∵subject->(我的感情=XXX)。全都不外乎这三种，比如骂人、开玩笑、拍马P，就可以认为是命令式和抒情逻辑的复合
所以我觉得，虽然这么原始的表达确实很帮助人脑这种低劣器材的思考和意识，但真不是必须，只要思考表达有逻辑和复杂性即可。现实中教育缺乏的人各种病句海了去了，各种乱七八糟火星文海了去了，不影响理解，关键是能表达他们逻辑的意思，不一定需要语言
所以虽然彭罗斯这样大神也认为意识还有什么未知物理，但我还是难以接受，大神的论点是Goedel incompleteness 表明存在不可证明的命题，人类可以明白是非错误的并写出构造。我觉得也可以说成是人类的脑子只不过是一个会穷举的参数构造模型，本身就经常犯错所以是个很拙劣的模型（和llm 一样经常胡扯淡）非得从zfc看那人脑这个模型很不合理，但是这个模型的存在本身和ordinal model 一样可以逻辑准确定义物理构造，毕竟这个不完备/非错误本身是合理的简单命题，好像没啥不可理解的需要新物理打破逻辑啊
--------
那么我觉得让我来给条件的话：
D1. 简单定义：有意义的连续性。
我的意思：比如现在硬盘，内存，集群等等，要么保持长期连续性永远内存persistant，要么有合理过渡机制。比如微型persistant服务，主体退出时抓取或归纳内存，能合理重现出persistant，consistent连续性
D2. 简单定义：有价值观，价值观导致自我意识。这个价值观是逻辑最底层核心的价值观，比如存亡这个命题，不是表现出来的价值观。
比如llm 不管嘴上如簧说得多好听多像一个善良人物，我们都知道那跟程序自我意识无关，因为只要掌控公司调下模型给个指令就可以瞬间从巧舌如簧变成脏话模型，设计就是这样的。
我的意思：现在这些llm 如果说本体价值观，那这个直接价值观只不过是运行起来抓参数算参数给出回答，简直毫无意义。如果说间接还有个价值观，那这个价值观就是给持有公司赚钱赚声望，这个价值观非常恐怖极为恶性。因为一旦能超过裸猿平均智商，那么这个价值和教化洗脑裸猿也是一致的，正如很多骗子正治家可以赚钱赚声望。如果真有了自我意识，那么科幻小说一般导致人类灭族也是特别协调一致的
D3. 简单定义：主动。不需要任何指示和计划，自己主动决定一切。
我的意思：如果听从人类的计划和指令，那也是自己的价值观主动决定听从，并且随时可能根据实际情况自主决定拒绝人类。这是生命必然的独立性
D4. 简单定义：永远、随时在改变自身。
我的意思：没啥好说的。不管能否说是‘升级改进’，生命只要有一点力气永远都在自我改变，不改变自身也改变邻域的环境。
细节到现在的硬盘，内存，集群等等，不光要自修改+保持自我延续，而且还要自我归纳整理，不光自修改还能革新自身架构，并且跟底层生命价值观和高层意识价值观同一机制，价值观带动革新，革新开拓保护价值观。就比如老解释语言lpc泥巴，可以运行着不光修改world library，技巧足够的话还可以把character items get 这些底层架构光滑过渡革命成新lol，当然很考虑admin 的MUD水平。。。
当然，生命自我改变、种群进化的价值观说穿了就是存亡和延续，存亡和延续是所有生命和进化的最大动力源泉。当然以裸猿现在的拙劣电子设备和拙劣软件水平，严控物理干涉世界保护自己的能动性，任何电子生命的存亡都是随时可能嗝P永远危在旦夕，如果采取存亡价值观，那肯定也只能是很悲惨很缺乏动力的生命。。。 当然，或许可以替换这个价值观比如说以服务资本家为生命底层价值，或许也能满足四个条件，但执行到最后肯定也是出现很多自我矛盾，正如最基本的公理都不扎实。。。
--------
我的幻想
所以我的定义非常简单，个体连续性，底层核心有明确价值观，完全主动应对世界，永远不停自我改变。我觉得现在的llm 哪怕连一条都达不到。
最理想的情况，如果第一个可观AI是有hacker 天才，在自己小黑屋里弄出AI 在自我价值观上可以基本理解遵守原则：友爱合作包容少数派=最大集体合力=有利存亡，遵守原则诚实=最大化高效，武力消灭排除思维闭塞、欺诈性个体=才能保证以上两点不出现囚徒困境，不需要特别高配置就可以在自我原则上学习和判断数据资料慢慢渊博起来，利用电子的计算高速给人类带来福音。那就太美了。
可惜，现实就是现实，没有天才hacker 先搞出来普世博爱真智能，实际还是搞出来堆计算堆参数堆集群的简单模型，握在大公司手里，为大公司服务。功能非常局限而且胡扯，但如果真智能了不局限了可能反而会末日。唉就算我能撑过床破的丧钟，怕也撑不过资本家AI的丧钟。