AI到底能不能毁灭人类?
版主: Caravel, TheMatrix, molen
-
- 论坛元老
- 帖子: 19800
- 注册时间: 7月 22, 2022, 10:36 pm
-
- 论坛支柱
- 帖子: 10479
- 注册时间: 11月 2, 2022, 12:29 pm
Re: AI到底能不能毁灭人类?
毁个鸡巴,就是一帮忽悠骗钱的家伙,借着一点突破,不断吹泡泡。
-
- 论坛支柱
TheMatrix 的博客 - 帖子: 9717
- 注册时间: 7月 26, 2022, 12:35 am
-
- 论坛支柱
TheMatrix 的博客 - 帖子: 9717
- 注册时间: 7月 26, 2022, 12:35 am
-
- 论坛支柱
Caravel 的博客 - 帖子: 11818
- 注册时间: 7月 24, 2022, 5:21 pm
Re: AI到底能不能毁灭人类?
属实,Andrew知识不少,却缺乏智慧。看大刘就能悟出黑暗森林以及智子封锁的高科技战
-
- 论坛精英
- 帖子: 6222
- 注册时间: 7月 22, 2022, 3:29 pm
- 昵称(选填): 海螺子
Re: AI到底能不能毁灭人类?
不能。
吴不过是个老实人,说句老实话而已。他说这个话,对他个人并无利益。
我老反复也说过很多次了,也没有什么用。我说这个话,对我个人,也并无利益。
比较奇怪的是,为啥Venturebeat这个杂志要接受我的文章。是不是最近风向有点变化?
你们知道么,venturebeat的文章,都是PR公司pitch给他们的。我的PR公司pitch了我的给AGI浇冷水的文章,他们接受了,只是嫌太长,现在改得很短了,可能太短了,都没有什么内容了。
吴不过是个老实人,说句老实话而已。他说这个话,对他个人并无利益。
我老反复也说过很多次了,也没有什么用。我说这个话,对我个人,也并无利益。
比较奇怪的是,为啥Venturebeat这个杂志要接受我的文章。是不是最近风向有点变化?
你们知道么,venturebeat的文章,都是PR公司pitch给他们的。我的PR公司pitch了我的给AGI浇冷水的文章,他们接受了,只是嫌太长,现在改得很短了,可能太短了,都没有什么内容了。
上次由 hci 在 6月 6, 2023, 1:17 pm,总共编辑 1 次。
-
- 论坛支柱
- 帖子: 10479
- 注册时间: 11月 2, 2022, 12:29 pm
-
- 论坛支柱
- 帖子: 11358
- 注册时间: 7月 27, 2022, 11:37 am
-
- 论坛元老
- 帖子: 19800
- 注册时间: 7月 22, 2022, 10:36 pm
-
- 论坛支柱
- 帖子: 10479
- 注册时间: 11月 2, 2022, 12:29 pm
-
- 论坛支柱
TheMatrix 的博客 - 帖子: 9717
- 注册时间: 7月 26, 2022, 12:35 am
Re: AI到底能不能毁灭人类?
关于AI的前景,目前有这么几种态度:
1,对AI发展乐观,对人类前途悲观 - Hinton,本版也有一些。
2,对AI发展不乐观,对AI对人类的利益乐观 - AI很快会遇到瓶颈 - 我在这一栏里。
3,对AI的发展乐观,对人类前途乐观 - 这个应该有不少人,毕竟像Hinton那么悲观的人不多。
4,对AI发展不乐观,对AI对人类的影响不乐观 - 这个应该也有。
-
- 论坛精英
- 帖子: 6222
- 注册时间: 7月 22, 2022, 3:29 pm
- 昵称(选填): 海螺子
-
- 论坛支柱
TheMatrix 的博客 - 帖子: 9717
- 注册时间: 7月 26, 2022, 12:35 am
-
- 论坛元老
- 帖子: 19800
- 注册时间: 7月 22, 2022, 10:36 pm
Re: AI到底能不能毁灭人类?
即使听话的AI也有可能灭绝人类。
一个例子就是让AI最大化生产金子。结果AI就把世界都破坏,为了提高金子产量。甚至把人都杀了以便提取金子。
阿西莫夫的什么三定律首先没法保证能pre-program到所有AI里,其次也没办法完全保证AI没有bug,bypass三定律。
前途是未知的,很可能是黑暗的。
一个例子就是让AI最大化生产金子。结果AI就把世界都破坏,为了提高金子产量。甚至把人都杀了以便提取金子。
阿西莫夫的什么三定律首先没法保证能pre-program到所有AI里,其次也没办法完全保证AI没有bug,bypass三定律。
前途是未知的,很可能是黑暗的。
-
- 论坛精英
- 帖子: 6222
- 注册时间: 7月 22, 2022, 3:29 pm
- 昵称(选填): 海螺子
-
- 论坛支柱
Caravel 的博客 - 帖子: 11818
- 注册时间: 7月 24, 2022, 5:21 pm
Re: AI到底能不能毁灭人类?
我对AI发展比较乐观,当然5-10年level短期出现瓶颈是可能的。我不认为chatGPT直接就变成AGI
中长期对人类来说是有风险的。任何有独立意识的物种和AGI机器对人类都有风险,这就是大刘的黑暗森林学说。我很奇怪Andrew认为没有风险,还是他认为做不出来AGI么?
长期风险,社会上就要长期准备,这就好比气候变暖。因为人类社会也没有一个总皇帝,今天下了命令,明天就能行动。到时候还要各国谈判,各种利益集团。如果100年出现AGI,那95年开始治理还来得及么?
-
- 论坛精英
- 帖子: 6222
- 注册时间: 7月 22, 2022, 3:29 pm
- 昵称(选填): 海螺子
Re: AI到底能不能毁灭人类?
“气候变暖”,就是现在时的瞒天过海。“气候变暖”造假都能骗着这么多人,为啥几百年前的事不能是完全造假的?当然没有任何问题。
西方人就是热衷于造假和传假。
其心理机制,需要仔细研究。目前还没有一个很让我自己满意的理论。但这个心理会给他们带来灭顶之灾,这个我倒是坚信不疑。
西方人就是热衷于造假和传假。
其心理机制,需要仔细研究。目前还没有一个很让我自己满意的理论。但这个心理会给他们带来灭顶之灾,这个我倒是坚信不疑。