新未名空间

今天的AI是可以复制的

把weight直接copy了

再别的地方用同样的硬件就克隆了

现在假设AGI不能以很小的代价克隆

那么今天的AGI还缺什么

换句话说，用什么办法，可以让今天AI不可复制？

或许这就是AGI的关键要所。

为啥要让AGI不可复制？

加上几个random perturbation就可以了

AI如果不能复制，还不如用人力

这是对的。

认识到了心灵的个体差异。

元神自在天成，各不相同，不可复制。

Caravel 写了： 2025年 6月 12日 21:25 今天的AI是可以复制的

把weight直接copy了

再别的地方用同样的硬件就克隆了

现在假设AGI不能以很小的代价克隆

那么今天的AGI还缺什么

换句话说，用什么办法，可以让今天AI不可复制？

或许这就是AGI的关键要所。

Caravel 写了： 2025年 6月 12日 21:25 今天的AI是可以复制的

把weight直接copy了

再别的地方用同样的硬件就克隆了

现在假设AGI不能以很小的代价克隆

那么今天的AGI还缺什么

换句话说，用什么办法，可以让今天AI不可复制？

或许这就是AGI的关键要所。

复制之后的结果是？多个个体刚开始的时候有同样的人格，经历，思维方式？

Caravel 写了： 2025年 6月 12日 21:25 今天的AI是可以复制的

把weight直接copy了

再别的地方用同样的硬件就克隆了

现在假设AGI不能以很小的代价克隆

那么今天的AGI还缺什么

换句话说，用什么办法，可以让今天AI不可复制？

或许这就是AGI的关键要所。

Quantum state 不可clone. penrose 早就想到了。

Caravel 写了： 2025年 6月 12日 21:25 今天的AI是可以复制的

把weight直接copy了

再别的地方用同样的硬件就克隆了

现在假设AGI不能以很小的代价克隆

那么今天的AGI还缺什么

换句话说，用什么办法，可以让今天AI不可复制？

或许这就是AGI的关键要所。

Penrose 有一个论断，意识（Intelligence的基础）是一个不可计算的过程。

如果这个论断成立，那么即使量子计算机实现了，也不可能实现AGI，因为量子计算本身也是可计算的。

pseudo 写了： 2025年 6月 16日 16:30 Penrose 有一个论断，意识（Intelligence的基础）是一个不可计算的过程。

如果这个论断成立，那么即使量子计算机实现了，也不可能实现AGI，因为量子计算本身也是可计算的。

看怎么定义Intelligence了。没有意识但人能做的它都能做算不算AGI.

cocoa 写了： 2025年 6月 18日 10:10 看怎么定义Intelligence了。没有意识但人能做的它都能做算不算AGI.

什么是智慧，确实没有严格的定义。没有意识但人能做的都能做到，我个人认为是不可能的。

Penrose 对 intelligence 的论述是能突破现在体系的能力（我的理解）。

根据哥德尔不完备定理，一个自洽系统一定有能其不能证明的真命题。现在的 AI 系统都是基于可计算性的计算系统。这样的系统是无法突破可计算性的局限性的。

pseudo 写了： 2025年 6月 18日 14:46 什么是智慧，确实没有严格的定义。没有意识但人能做的都能做到，我个人认为是不可能的。

Penrose 对 intelligence 的论述是能突破现在体系的能力（我的理解）。

根据哥德尔不完备定理，一个自洽系统一定有能其不能证明的真命题。现在的 AI 系统都是基于可计算性的计算系统。这样的系统是无法突破可计算性的局限性的。

这句话是什么意思？

现在的 AI 系统都是基于可计算性的计算系统