AGI远景

[TheMatrix]

近景我预测不了。但是远景我可以根据输入，输出，equilibrium，哲学，等预测一下。

AI能不能发展出智能？

先看第一级智能：理解世界并推理的能力。我认为AI能达到人类顶尖水平的90%。

再看第二级智能：创造。AI不能创造。

[TheMatrix]

近景我预测不了。但是远景我可以根据输入，输出，equilibrium，哲学，等预测一下。

AI能不能发展出智能？

先看第一级智能：理解世界并推理的能力。我认为AI能达到人类顶尖水平的90%。

再看第二级智能：创造。AI不能创造。

第一级智能：理解世界并推理的能力。

推理到底是什么？

解构下来，我觉得推理就是生成式AI，generation，好的generation。也可以说是“补全”。

而hallucinations就是不好的generation。

而好的generation，要以理解世界为基础。也就是要有世界模型。

世界模型分级：物体，场景，运动，事件过程，...

怎么才能有世界模型？要给它输入世界的信息：文字知识，和影像。

而且不能是停止的：输入到截止2023年够不够？不够。必须得持续学习。

那它变成机器人，自己出来感受世界行不行？

这就出现了两类AI：一个是天网AI，一个是机器人AI。

[TheMatrix]

第一级智能：理解世界并推理的能力。

推理到底是什么？

解构下来，我觉得推理就是生成式AI，generation，好的generation。也可以说是“补全”。

而hallucinations就是不好的generation。

而好的generation，要以理解世界为基础。也就是要有世界模型。

世界模型分级：物体，场景，运动，事件过程，...

怎么才能有世界模型？要给它输入世界的信息：文字知识，和影像。

而且不能是停止的：输入到截止2023年够不够？不够。必须得持续学习。

那它变成机器人，自己出来感受世界行不行？

这就出现了两类AI：一个是天网AI，一个是机器人AI。

机器人AI，它必须想办法自己进化。

因为人制造的机器人，它怎么可能超过人类呢？我都不知道怎么超过自己。所以我也没有办法把超过自我的设计实现在机器人身上。这里可能有点争议。我也没有想出圆满的说法。

机器人AI应该怎么进化？我觉得还得走寒武纪 --> 奥陶纪 --> 白垩纪 --> ...，的进化方式。也就是机器人要繁殖，生育，突变，优选。

机器人AI有一点好：就是它能复制。一个版本好，啪，它就能复制出1000份。这加快了它的进化过程。

但是从两点看，它是有限制的：

1，没有人类干预的话，它很快会进化到一个死胡同里去。
2，资源。

如果需要人类干预的话，或者不说人类干预，而说要和人类互动的话，那么它就不可以自己进化的太快。它必须要等人类。这是一个机器人和人类共同进化的过程。它不可能一骑绝尘而去。

[TheMatrix]

第一级智能：理解世界并推理的能力。

推理到底是什么？

解构下来，我觉得推理就是生成式AI，generation，好的generation。也可以说是“补全”。

而hallucinations就是不好的generation。

而好的generation，要以理解世界为基础。也就是要有世界模型。

世界模型分级：物体，场景，运动，事件过程，...

怎么才能有世界模型？要给它输入世界的信息：文字知识，和影像。

而且不能是停止的：输入到截止2023年够不够？不够。必须得持续学习。

那它变成机器人，自己出来感受世界行不行？

这就出现了两类AI：一个是天网AI，一个是机器人AI。

天网AI。

我认为这也是一个和人类互动的过程。

可以有一个天网AI，不需要和人类互动，自己和自己互战就进化吗？我觉得不行。

这里更多是一种哲学思考。它还是很快会进化到一个死胡同里。

[TheMatrix]

天网AI。

我认为这也是一个和人类互动的过程。

可以有一个天网AI，不需要和人类互动，自己和自己互战就进化吗？我觉得不行。

这里更多是一种哲学思考。它还是很快会进化到一个死胡同里。

AI可以毁灭人类，这个危险是有的。

一个错误的程序，使自己不停的复制（以进化 (evolutionary algorithm)），从而耗尽资源，毁灭人类。这是可以发生的。

但这不需要一个有高级智慧的AI。

[TheMatrix]

近景我预测不了。但是远景我可以根据输入，输出，equilibrium，哲学，等预测一下。

AI能不能发展出智能？

先看第一级智能：理解世界并推理的能力。我认为AI能达到人类顶尖水平的90%。

再看第二级智能：创造。AI不能创造。

第二级智能：创造。

AI不能创造。

这是在社会学意义上。

什么是创造？乔布斯发明iPhone是创造。因为iPhone出来就引领了消费。这才是创造。

我拍脑袋发明一个太阳能手电筒，发明出来没人用。这不叫创造。

这是社会学意义上的。

AI不能创造。

[wass]

近景我预测不了。但是远景我可以根据输入，输出，equilibrium，哲学，等预测一下。

AI能不能发展出智能？

先看第一级智能：理解世界并推理的能力。我认为AI能达到人类顶尖水平的90%。

再看第二级智能：创造。AI不能创造。

OpenAI 说是五级
1 Chat，已经可以
2 Reasoning，o3就是
3 Agent，coming
4 创新
5 管理组织

[wass]

4听起来像奴隶

5人类可能是奴隶

[mmking]

创造其实很容易

近景我预测不了。但是远景我可以根据输入，输出，equilibrium，哲学，等预测一下。

AI能不能发展出智能？

先看第一级智能：理解世界并推理的能力。我认为AI能达到人类顶尖水平的90%。

再看第二级智能：创造。AI不能创造。