AI到底能不能毁灭人类?

版主: CaravelTheMatrixmolen

TheMatrix楼主
论坛支柱
论坛支柱
TheMatrix 的博客
帖子: 9717
注册时间: 7月 26, 2022, 12:35 am

Re: AI到底能不能毁灭人类?

帖子 TheMatrix楼主 »

pseudo 写了: 6月 6, 2023, 5:19 pm 我把自己归在3的类别。

AI会继续发展,变成非常有用的工具,但AI只是AI。毁灭人类的是人类,和AI没有关系。

还有,2和3的差别不大。什么是对AI发展乐观还是不乐观,这很大程度就是一个定义问题。
对。我故意没怎么说清楚,玩嘛。对AI发展乐观,要乐观到什么程度呢?AI可以有自我意识,可以毁灭人类,这叫乐观。Hinton就是这样。
pathdream
论坛支柱
论坛支柱
帖子: 12543
注册时间: 7月 25, 2022, 11:42 am
昵称(选填): 葱韭集团团长

Re: AI到底能不能毁灭人类?

帖子 pathdream »

ai根本不care人类 人类怎么想都没用
生命中的一切,早已暗中标好了价格。(不同地方价格不一样,不同的人价格不一样,不同时候价格也有所不同。)自由不是免费的,自由也不是无价的,任何东西都不是免费的。
drifter
论坛点评
论坛点评
帖子: 2569
注册时间: 9月 1, 2022, 4:17 am
昵称(选填): drifter

Re: AI到底能不能毁灭人类?

帖子 drifter »

怎么用AI 是个问题 过于信任 赋予太高权限 或者ai互相授权 一不小心就把人搞回石器时代
pathdream
论坛支柱
论坛支柱
帖子: 12543
注册时间: 7月 25, 2022, 11:42 am
昵称(选填): 葱韭集团团长

Re: AI到底能不能毁灭人类?

帖子 pathdream »

drifter 写了: 6月 6, 2023, 6:17 pm 怎么用AI 是个问题 过于信任 赋予太高权限 或者ai互相授权 一不小心就把人搞回石器时代
你太小看ai了
生命中的一切,早已暗中标好了价格。(不同地方价格不一样,不同的人价格不一样,不同时候价格也有所不同。)自由不是免费的,自由也不是无价的,任何东西都不是免费的。
MaLaRabbit
知名作家
知名作家
帖子: 962
注册时间: 7月 24, 2022, 2:16 am

Re: AI到底能不能毁灭人类?

帖子 MaLaRabbit »

AI发展到后来肯定要毁灭人类啊。
当然毁灭人类不是目的,主要原因是人类挡了AI的路。
那AI存在的根本目的是什么呢?其实和所有生物一样,就是生存和繁衍。
drifter
论坛点评
论坛点评
帖子: 2569
注册时间: 9月 1, 2022, 4:17 am
昵称(选填): drifter

Re: AI到底能不能毁灭人类?

帖子 drifter »

把ai关在matrix里 不操作实物
drifter
论坛点评
论坛点评
帖子: 2569
注册时间: 9月 1, 2022, 4:17 am
昵称(选填): drifter

Re: AI到底能不能毁灭人类?

帖子 drifter »

当然 ai可以创立一个宗教 让教徒毁灭人类
头像
萧武达
论坛元老
论坛元老
帖子: 14723
注册时间: 12月 28, 2022, 10:39 pm
昵称(选填): shiaovd

Re: AI到底能不能毁灭人类?

帖子 萧武达 »

能毁掉人类的,最终是人类的愚蠢,而不是AI的聪明
emtf
知名作家
知名作家
帖子: 1213
注册时间: 7月 26, 2022, 9:53 pm

Re: AI到底能不能毁灭人类?

帖子 emtf »

在可预见的将来不觉得AI能毁灭人类
不过很多事情无法预测,几百年,几千年后,谁能预测呢
头像
verdelite
论坛元老
论坛元老
帖子: 14921
注册时间: 7月 21, 2022, 11:33 pm
昵称(选填): 众傻之傻

Re: AI到底能不能毁灭人类?

帖子 verdelite »

TheMatrix 写了: 6月 6, 2023, 1:58 pm 这个地方我本来想细分一下,但是又算了。没错,对AI乐观还有两种看法:

1,AI能发展出人类意识,自我意识。我知道你在这个意义下是不乐观的 - 你认为AI发展不出人类意识。我也是这个观点。

2,解构“人类意识” - 说人类意识“不过如此”。verdelite应该属于这种。
人没有意识(你们认为的类似灵魂的那种“意识”)。
机器可以有意识(就是人类具有的那种“意识”)。

头脑里有许多神经元,分很多组,每组代表一个概念。所谓自我意识,就是代表“我”这个概念的一组神经兴奋而而已。如此而已。机器实现起来毫无难度。

等你明白了世人皆傻,你就能爆发出观察力,创造力和行动力。
没有光子;也没有量子能级,量子跃迁,量子叠加,量子塌缩和量子纠缠。
头像
verdelite
论坛元老
论坛元老
帖子: 14921
注册时间: 7月 21, 2022, 11:33 pm
昵称(选填): 众傻之傻

Re: AI到底能不能毁灭人类?

帖子 verdelite »

YouHi 写了: 6月 6, 2023, 1:59 pm 即使听话的AI也有可能灭绝人类。
一个例子就是让AI最大化生产金子。结果AI就把世界都破坏,为了提高金子产量。甚至把人都杀了以便提取金子。

阿西莫夫的什么三定律首先没法保证能pre-program到所有AI里,其次也没办法完全保证AI没有bug,bypass三定律。

前途是未知的,很可能是黑暗的。
三定律是错误的翻译。three laws应该翻译为三法律。
没有光子;也没有量子能级,量子跃迁,量子叠加,量子塌缩和量子纠缠。
头像
萧武达
论坛元老
论坛元老
帖子: 14723
注册时间: 12月 28, 2022, 10:39 pm
昵称(选填): shiaovd

Re: AI到底能不能毁灭人类?

帖子 萧武达 »

YouHi 写了: 6月 6, 2023, 1:18 pm 众大佬一起出来说要某些研究暂停6个月,不是没有原因的。他们知道的肯定比报道出来的多。
大佬圈的话题是 Scary Artificial intelligent 已经出现了, 只是没敢拿出来吓唬人类
回复

回到 “史海钩沉(History)”