新未名空间

bihai 写了： 2025年 3月 4日 22:18 机器智能，得发现一个类似相对论一样的理论，比如推翻宇宙大爆炸哦理论，给出更合理的解释，才能信服。而且这个理论不能是已知的。

不用这么高标准，如果AI能做到一个普通斯坦福教授的水平，那到爱因斯坦也就是一年的距离了。

Caravel 写了： 2025年 3月 4日 22:37 不用这么高标准，如果AI能做到一个普通斯坦福教授的水平，那到爱因斯坦也就是一年的距离了。

关键是得发明新的理论。

wdong 写了： 2025年 3月 4日 16:29 这是个工程问题。 我隔壁贴解释了，只要能拼的足够像，不但有生命而且自然会有意识。现在的问题是拼得不像。但是所有生物研究都越来越指向的都是一个方向，就是生命现象背后没有神秘力量。

你看不见神秘力量就一定不存在？那量子纠缠呢？那你就用足够的元素和能量拼一个单细胞生物吧？

wdong 写了： 2025年 3月 4日 16:29 这是个工程问题。 我隔壁贴解释了，只要能拼的足够像，不但有生命而且自然会有意识。现在的问题是拼得不像。但是所有生物研究都越来越指向的都是一个方向，就是生命现象背后没有神秘力量。

现代科技太低级了，不知道薛定谔的猫，同一只猫，死的猫和活的猫，在现代科技里，到底有什么区别。

类比到人，现代科技根本搞不明白行尸走肉的人到底是怎么了。
然而现实是行尸走肉的人已经死了，虽然能吃能喝能睡能走，活脱脱一个正常人。

适当定义并限定一下，人类是可以把Chaitin常数的各个位上的数字确定出来的（不是算出来的），但在同样的情况下，不存在图灵机能算出Chaitin常数来，也就是无法指定位数，图灵机就可以输出前n位。你们觉得图灵机能追上人的智能吗？

Caravel 写了： 2025年 3月 4日 22:11 那你说如果一个数学家那这个领域的方法，运用到别的领域，证明了一个新定理，算不算non trivial

这是一个有趣的问题，到现在我们也没弄清楚哪些算原创方法，共有哪些，是不是AI都能实现。

wdong 写了： 2025年 3月 4日 21:17 光说智能
我的证据有两个。1. 目前语言模型呈现的能力。2. 这种能力目前还在提高，而且暂时看不到顶。

意识的证据我已经举过了。self reference。自我描述心理活动。

这极可能是错觉。

我自己感觉，人类到目前为止所得到的知识可以压缩到很小，没有我们想象的那么多，至少或者常用到的知识很少。

如果ai能解出任何一个人类无法破解的猜想，就算是真正的智能了

wdong 写了： 2025年 3月 4日 08:29 AI是智能，有没有意识不在AI框架内。智能是可以研究的，意识在目前的科技框架和现有水平下不可研究，是每个人自己可以选择的哲学立场。你觉得AI有意识也好没意识也好，你觉得网友有意识也好没意识也好，都不会得出矛盾。

那好，计算器有没有智能，手表有没有智能。
智能和功能的区别是什么。
你现在不谈意识，但是怎么定义智能。

forecasting 写了： 2025年 3月 5日 07:36 适当定义并限定一下，人类是可以把Chaitin常数的各个位上的数字确定出来的（不是算出来的），但在同样的情况下，不存在图灵机能算出Chaitin常数来，也就是无法指定位数，图灵机就可以输出前n位。你们觉得图灵机能追上人的智能吗？

原文是循环论证。相反：

不存在图灵机能算出Chaitin常数来, 人也同样算不出来

适当定义并限定一下，人类是可以把Chaitin常数的各个位上的数字确定出来的（不是算出来的），图灵机也一样可以。非图灵机神经网络也可以。

红烛歌楼 写了： 2025年 3月 4日 22:58 你看不见神秘力量就一定不存在？那量子纠缠呢？那你就用足够的元素和能量拼一个单细胞生物吧？

问得好，量子纠缠，还真是不存在呢。看我签名档。

verdelite 写了： 2025年 3月 5日 23:50 问得好，量子纠缠，还真是不存在呢。看我签名档。

现代科技还处于低层次水平

wdong 写了： 2025年 3月 4日 08:30 每个人唯一可以确定的是自己有意识，别的都做不了数。

陷入不可知论的原因就是世界观有问题

wdong 写了： 2025年 3月 4日 14:13 现在的AI模型就可以以有意识的方式运行。

意识有两种，一种是服务器客户端模型，就是智能音响那种，客户问问题，传到网上，找到答案，回到设备。设备里面的设计不足以产生意识。

第二种就是PC模式，客户端足够产生意识。

意识是什么？就是软件运行不停的输出的log。看到log了，就看到了机器的状态。机器要产生人能理解的意识，那么log就得是人类的语言。机器运行的时候不停产生人类能读懂的按人类语言写好的log，机器就拥有了意识。这是我的原创啊。当然机器自己发明语言也可以。