GPT可能会发生自激 TheMatrix 3月 21, 2023, 10:49 pm 1180 次阅读(955 来自论坛) / 23 条评论 此博文来自论坛版块：史海钩沉（History） 共 23 条评论 pathdream 3月 27, 2023, 5:15 pm 不要说什么 GPT可能会发生自激， 这个是一定的 GPT一定会发生自激， 时间问题 快慢而已 人就别想着和ai比了 ai一个月可以产生人类十年发表的信息 评论 eecs_guy 3月 27, 2023, 5:03 pm TheMatrix 写了： ↑3月 27, 2023, 4:59 pm 第二种情况是人扮演上帝的角色。我看很难。不是我们人类生命尺度能看到的结果。 第一种情况很有可能 - 就是人变成cyborg。我觉得这种情况AI还是算工具。 CybOrg 里要看用谁的处理器做主处理器，人脑还是电脑。 评论 TheMatrix[博主] 3月 27, 2023, 4:59 pm eecs_guy 写了： ↑3月 27, 2023, 4:56 pm 那人类就是扮演上帝角色了。现在 AI 只是人类的奴工。 就像蓝星的创世神话之一：阿努纳奇人来蓝星采金，创造了人类帮其挖矿，但是起先并未赋予人类智慧。 第二种情况是人扮演上帝的角色。我看很难。不是我们人类生命尺度能看到的结果。 第一种情况很有可能 - 就是人变成cyborg。我觉得这种情况AI还是算工具。 评论 eecs_guy 3月 27, 2023, 4:56 pm TheMatrix 写了： ↑3月 27, 2023, 4:47 pm 我也是逐渐清晰自己的观点，当然我可能还会改变。 我认为在人类监管下的AI，不可能发展出自我意识。当然，它可以和人类融合，人类可能变成cyborg，这样也不能算AI有自我意识。另一种情况是人类制造了AI之后把它扔在某个星球，过1000年再去看，它有可能有自我意识了。 那人类就是扮演上帝角色了。现在 AI 只是人类的奴工。 就像蓝星的创世神话之一：阿努纳奇人来蓝星采金，创造了人类帮其挖矿，但是起先并未赋予人类智慧。 评论 TheMatrix[博主] 3月 27, 2023, 4:47 pm eecs_guy 写了： ↑3月 27, 2023, 4:40 pm 我不太同意，人类自己都尚未弄清意识的生理基础和数学本质。不能轻易否定模拟意识的可能性，尤其是自我意识。 我也是逐渐清晰自己的观点，当然我可能还会改变。 我认为在人类监管下的AI，不可能发展出自我意识。当然，它可以和人类融合，人类可能变成cyborg，这样也不能算AI有自我意识。另一种情况是人类制造了AI之后把它扔在某个星球，过1000年再去看，它有可能有自我意识了。 评论 eecs_guy 3月 27, 2023, 4:40 pm TheMatrix 写了： ↑3月 27, 2023, 4:13 pm 我同意这个观点。 我认为，有意识的AGI只能由男人和女人以生物的方式制造，产生之后在人类社会中继续学习训练，并与人类社会一起进化。 我不太同意，人类自己都尚未弄清意识的生理基础和数学本质。不能轻易否定模拟意识的可能性，尤其是自我意识。 评论 TheMatrix[博主] 3月 27, 2023, 4:31 pm 评论 TheMatrix[博主] 3月 27, 2023, 4:13 pm hci 写了： ↑3月 27, 2023, 4:01 pm 有了world model也是没有用的。因为world model不是意识，或者说，没有考虑到意识的独立自在性的world model是错的model。 有一个错的model，还是可以做一个合格的奴隶的。所以，没有意识，能做合格奴隶的AGI是可以实现的。我们将来会有很多机器人奴隶走在街上。他们都没有意识。 有意识的AGI是不可能的。 我同意这个观点。 我认为，有意识的AGI只能由男人和女人以生物的方式制造，产生之后在人类社会中继续学习训练，并与人类社会一起进化。 评论 hci 3月 27, 2023, 4:01 pm 有了world model也是没有用的。因为world model不是意识，或者说，没有考虑到意识的独立自在性的world model是错的model。 有一个错的model，还是可以做一个合格的奴隶的。所以，没有意识，能做合格奴隶的AGI是可以实现的。我们将来会有很多机器人奴隶走在街上。他们都没有意识。 有意识的AGI是不可能的。 评论 TheMatrix[博主] 3月 26, 2023, 3:08 pm 这就是自激： TrumpFan 写了： ↑3月 26, 2023, 3:04 pm 我从前最烦写Airbnb review，但不写又觉得不好 尤其是那些住的很舒服的，不写赞美一番觉得过意不去。 现在有了ChatGPT，30秒搞定。 评论 TheMatrix[博主] 3月 26, 2023, 8:07 am Caravel 写了： ↑3月 25, 2023, 10:59 pm 其实我不知道自激石什么意思，machine learning训练本来不就是要run很多epoch 自激的意思是用自己生成的“知识”来训练。比如它可以产生“2022年美国再次载人登月”的知识，然后这个知识进入互联网，它扒下来，再用于训练。 评论 Caravel 3月 25, 2023, 10:59 pm TheMatrix 写了： ↑3月 24, 2023, 10:34 pm 纯语言模型能不能建立world model，这是个哲学问题。我认为不能。 但是现在我觉得不是这个问题 - 因为现在已经是多模态了。我觉得还是概念抽象层次不够的问题。你要是说那就继续提高抽象层次呗。那也对。我也看不到它的局限在哪。但是我认为，或者是我赌它，会有局限，很难突破的局限，而且很快就能看到。 其实我不知道自激石什么意思，machine learning训练本来不就是要run很多epoch 评论 pathdream 3月 25, 2023, 9:09 pm 这个就是电影matrix的问题 一直留着人类 ai的局限性 评论 TheMatrix[博主] 3月 24, 2023, 10:34 pm Caravel 写了： ↑3月 24, 2023, 10:20 pm 不一定，有人认为llm已经建立了一个world model，是外部世界model的一个映射 纯语言模型能不能建立world model，这是个哲学问题。我认为不能。 但是现在我觉得不是这个问题 - 因为现在已经是多模态了。我觉得还是概念抽象层次不够的问题。你要是说那就继续提高抽象层次呗。那也对。我也看不到它的局限在哪。但是我认为，或者是我赌它，会有局限，很难突破的局限，而且很快就能看到。 评论 Caravel 3月 24, 2023, 10:20 pm TheMatrix 写了： ↑3月 23, 2023, 2:20 pm 对。我认为这是95%会发生的。AI有“智能”，这只有不到5%的机会。 不一定，有人认为llm已经建立了一个world model，是外部世界model的一个映射 评论 查看全部评论 评论 登录用户才可以发表评论!
第一种情况很有可能 - 就是人变成cyborg。我觉得这种情况AI还是算工具。
就像蓝星的创世神话之一：阿努纳奇人来蓝星采金，创造了人类帮其挖矿，但是起先并未赋予人类智慧。
我认为在人类监管下的AI，不可能发展出自我意识。当然，它可以和人类融合，人类可能变成cyborg，这样也不能算AI有自我意识。另一种情况是人类制造了AI之后把它扔在某个星球，过1000年再去看，它有可能有自我意识了。
我认为，有意识的AGI只能由男人和女人以生物的方式制造，产生之后在人类社会中继续学习训练，并与人类社会一起进化。
有一个错的model，还是可以做一个合格的奴隶的。所以，没有意识，能做合格奴隶的AGI是可以实现的。我们将来会有很多机器人奴隶走在街上。他们都没有意识。
有意识的AGI是不可能的。
但是现在我觉得不是这个问题 - 因为现在已经是多模态了。我觉得还是概念抽象层次不够的问题。你要是说那就继续提高抽象层次呗。那也对。我也看不到它的局限在哪。但是我认为，或者是我赌它，会有局限，很难突破的局限，而且很快就能看到。