AI到底能不能毁灭人类?

版主: CaravelTheMatrixmolen

TheMatrix楼主
论坛支柱
论坛支柱
TheMatrix 的博客
帖子: 9717
注册时间: 7月 26, 2022, 12:35 am

AI到底能不能毁灭人类?

帖子 TheMatrix楼主 »

Caravel 写了: 6月 6, 2023, 3:25 am AI的风险,这不是司马昭之心,路人皆知么?Andrew不学中华古典不行啊

头像
YouHi
论坛元老
论坛元老
帖子: 19800
注册时间: 7月 22, 2022, 10:36 pm

Re: AI到底能不能毁灭人类?

帖子 YouHi »

AI的威胁

短期:misinformation,影响民主,云云
中期:很多工作被取代,社会动荡
长期:灭绝人类
Stopper
论坛支柱
论坛支柱
帖子: 10479
注册时间: 11月 2, 2022, 12:29 pm

Re: AI到底能不能毁灭人类?

帖子 Stopper »

毁个鸡巴,就是一帮忽悠骗钱的家伙,借着一点突破,不断吹泡泡。
TheMatrix楼主
论坛支柱
论坛支柱
TheMatrix 的博客
帖子: 9717
注册时间: 7月 26, 2022, 12:35 am

Re: AI到底能不能毁灭人类?

帖子 TheMatrix楼主 »

Stopper 写了: 6月 6, 2023, 1:11 pm 毁个鸡巴,就是一帮忽悠骗钱的家伙,借着一点突破,不断吹泡泡。
目前就是这么回事。
TheMatrix楼主
论坛支柱
论坛支柱
TheMatrix 的博客
帖子: 9717
注册时间: 7月 26, 2022, 12:35 am

Re: AI到底能不能毁灭人类?

帖子 TheMatrix楼主 »

YouHi 写了: 6月 6, 2023, 1:11 pm AI的威胁

短期:misinformation,影响民主,云云
中期:很多工作被取代,社会动荡
长期:灭绝人类
长期有多长?一竿子支到3000年去了。
Caravel
论坛支柱
论坛支柱
Caravel 的博客
帖子: 11818
注册时间: 7月 24, 2022, 5:21 pm

Re: AI到底能不能毁灭人类?

帖子 Caravel »

属实,Andrew知识不少,却缺乏智慧。看大刘就能悟出黑暗森林以及智子封锁的高科技战
头像
YouHi
论坛元老
论坛元老
帖子: 19800
注册时间: 7月 22, 2022, 10:36 pm

Re: AI到底能不能毁灭人类?

帖子 YouHi »

TheMatrix 写了: 6月 6, 2023, 1:13 pm 长期有多长?一竿子支到3000年去了。
原来以为3000年,但看GPT的飞速进步,貌似业界把这个缩短到100年左右了。
头像
hci
论坛精英
论坛精英
帖子: 6222
注册时间: 7月 22, 2022, 3:29 pm
昵称(选填): 海螺子

Re: AI到底能不能毁灭人类?

帖子 hci »

不能。

吴不过是个老实人,说句老实话而已。他说这个话,对他个人并无利益。

我老反复也说过很多次了,也没有什么用。我说这个话,对我个人,也并无利益。

比较奇怪的是,为啥Venturebeat这个杂志要接受我的文章。是不是最近风向有点变化?

你们知道么,venturebeat的文章,都是PR公司pitch给他们的。我的PR公司pitch了我的给AGI浇冷水的文章,他们接受了,只是嫌太长,现在改得很短了,可能太短了,都没有什么内容了。
TheMatrix 写了: 6月 6, 2023, 1:08 pm
上次由 hci 在 6月 6, 2023, 1:17 pm,总共编辑 1 次。
Stopper
论坛支柱
论坛支柱
帖子: 10479
注册时间: 11月 2, 2022, 12:29 pm

Re: AI到底能不能毁灭人类?

帖子 Stopper »

YouHi 写了: 6月 6, 2023, 1:14 pm 原来以为3000年,但看GPT的飞速进步,貌似业界把这个缩短到100年左右了。
100年,哈哈哈,笑喷了!
头像
iMaJia
论坛支柱
论坛支柱
帖子: 11358
注册时间: 7月 27, 2022, 11:37 am

Re: AI到底能不能毁灭人类?

帖子 iMaJia »

幾百年前說地球是圓的而且不是宇宙中心還會被燒死。一百年前還說家裡通電了,人就整天被電
光追騙你錢,千萬別上當
效果不咋樣,幀數跟不上
头像
YouHi
论坛元老
论坛元老
帖子: 19800
注册时间: 7月 22, 2022, 10:36 pm

Re: AI到底能不能毁灭人类?

帖子 YouHi »

众大佬一起出来说要某些研究暂停6个月,不是没有原因的。他们知道的肯定比报道出来的多。
Stopper
论坛支柱
论坛支柱
帖子: 10479
注册时间: 11月 2, 2022, 12:29 pm

Re: AI到底能不能毁灭人类?

帖子 Stopper »

iMaJia 写了: 6月 6, 2023, 1:15 pm 幾百年前說地球是圓的而且不是宇宙中心還會被燒死。一百年前還說家裡通電了,人就整天被電
你咱不举一些人类瞎预言的列子出来呢?比如当年刚登月的时候,是不是有一堆人疯狂的觉得50年内人来要飞出太阳系了……
TheMatrix楼主
论坛支柱
论坛支柱
TheMatrix 的博客
帖子: 9717
注册时间: 7月 26, 2022, 12:35 am

Re: AI到底能不能毁灭人类?

帖子 TheMatrix楼主 »

hci 写了: 6月 6, 2023, 1:14 pm 不能。

吴不过是个老实人,说句老实话而已。他说这个话,对他个人并无利益。

我老反复也说过很多次了,也没有什么用。我说这个话,对我个人,也并无利益。

比较奇怪的是,为啥Venturebeat这个杂志要接受我的文章。是不是最近风向有点变化?

你们知道么,venturebeat的文章,都是PR公司pitch给他们的。我的PR公司pitch了我的给AGI浇冷水的文章,他们接受了,只是嫌太长,现在改得很短了,可能太短了,都没有什么内容了。
关于AI的前景,目前有这么几种态度:

1,对AI发展乐观,对人类前途悲观 - Hinton,本版也有一些。

2,对AI发展不乐观,对AI对人类的利益乐观 - AI很快会遇到瓶颈 - 我在这一栏里。

3,对AI的发展乐观,对人类前途乐观 - 这个应该有不少人,毕竟像Hinton那么悲观的人不多。

4,对AI发展不乐观,对AI对人类的影响不乐观 - 这个应该也有。
头像
hci
论坛精英
论坛精英
帖子: 6222
注册时间: 7月 22, 2022, 3:29 pm
昵称(选填): 海螺子

Re: AI到底能不能毁灭人类?

帖子 hci »

什么叫对AI发展乐观?是指AGI,AI有意识么?那我也是2.
TheMatrix 写了: 6月 6, 2023, 1:48 pm 关于AI的前景,目前有这么几种态度:

1,对AI发展乐观,对人类前途悲观 - Hinton,本版也有一些。

2,对AI发展不乐观,对AI对人类的利益乐观 - AI很快会遇到瓶颈 - 我在这一栏里。

3,对AI的发展乐观,对人类前途乐观 - 这个应该有不少人,毕竟像Hinton那么悲观的人不多。

4,对AI发展不乐观,对AI对人类的影响不乐观 - 这个应该也有。
Stopper
论坛支柱
论坛支柱
帖子: 10479
注册时间: 11月 2, 2022, 12:29 pm

Re: AI到底能不能毁灭人类?

帖子 Stopper »

人类总把自己太当回事,觉得自己会霍霍人类所谓的前途……
TheMatrix楼主
论坛支柱
论坛支柱
TheMatrix 的博客
帖子: 9717
注册时间: 7月 26, 2022, 12:35 am

Re: AI到底能不能毁灭人类?

帖子 TheMatrix楼主 »

hci 写了: 6月 6, 2023, 1:53 pm 什么叫对AI发展乐观?是指AGI,AI有意识么?那我也是2.
这个地方我本来想细分一下,但是又算了。没错,对AI乐观还有两种看法:

1,AI能发展出人类意识,自我意识。我知道你在这个意义下是不乐观的 - 你认为AI发展不出人类意识。我也是这个观点。

2,解构“人类意识” - 说人类意识“不过如此”。verdelite应该属于这种。
头像
YouHi
论坛元老
论坛元老
帖子: 19800
注册时间: 7月 22, 2022, 10:36 pm

Re: AI到底能不能毁灭人类?

帖子 YouHi »

即使听话的AI也有可能灭绝人类。
一个例子就是让AI最大化生产金子。结果AI就把世界都破坏,为了提高金子产量。甚至把人都杀了以便提取金子。

阿西莫夫的什么三定律首先没法保证能pre-program到所有AI里,其次也没办法完全保证AI没有bug,bypass三定律。

前途是未知的,很可能是黑暗的。
头像
hci
论坛精英
论坛精英
帖子: 6222
注册时间: 7月 22, 2022, 3:29 pm
昵称(选填): 海螺子

Re: AI到底能不能毁灭人类?

帖子 hci »

对的。

“人类意识,不过如此”,不过是机械唯物论。目前也不是主流,而且很快也会被抛弃。我都懒得与之争论。
TheMatrix 写了: 6月 6, 2023, 1:58 pm 这个地方我本来想细分一下,但是又算了。没错,对AI乐观还有两种看法:

1,AI能发展出人类意识,自我意识。我知道你在这个意义下是不乐观的 - 你认为AI发展不出人类意识。我也是这个观点。

2,解构“人类意识” - 说人类意识“不过如此”。verdelite应该属于这种。
Caravel
论坛支柱
论坛支柱
Caravel 的博客
帖子: 11818
注册时间: 7月 24, 2022, 5:21 pm

Re: AI到底能不能毁灭人类?

帖子 Caravel »

TheMatrix 写了: 6月 6, 2023, 1:58 pm 这个地方我本来想细分一下,但是又算了。没错,对AI乐观还有两种看法:

1,AI能发展出人类意识,自我意识。我知道你在这个意义下是不乐观的 - 你认为AI发展不出人类意识。我也是这个观点。

2,解构“人类意识” - 说人类意识“不过如此”。verdelite应该属于这种。
我对AI发展比较乐观,当然5-10年level短期出现瓶颈是可能的。我不认为chatGPT直接就变成AGI

中长期对人类来说是有风险的。任何有独立意识的物种和AGI机器对人类都有风险,这就是大刘的黑暗森林学说。我很奇怪Andrew认为没有风险,还是他认为做不出来AGI么?

长期风险,社会上就要长期准备,这就好比气候变暖。因为人类社会也没有一个总皇帝,今天下了命令,明天就能行动。到时候还要各国谈判,各种利益集团。如果100年出现AGI,那95年开始治理还来得及么?
头像
hci
论坛精英
论坛精英
帖子: 6222
注册时间: 7月 22, 2022, 3:29 pm
昵称(选填): 海螺子

Re: AI到底能不能毁灭人类?

帖子 hci »

“气候变暖”,就是现在时的瞒天过海。“气候变暖”造假都能骗着这么多人,为啥几百年前的事不能是完全造假的?当然没有任何问题。

西方人就是热衷于造假和传假。

其心理机制,需要仔细研究。目前还没有一个很让我自己满意的理论。但这个心理会给他们带来灭顶之灾,这个我倒是坚信不疑。
Caravel 写了: 6月 6, 2023, 2:11 pm 我对AI发展比较乐观,当然5-10年level短期出现瓶颈是可能的。我不认为chatGPT直接就变成AGI

中长期对人类来说是有风险的。任何有独立意识的物种和AGI机器对人类都有风险,这就是大刘的黑暗森林学说。我很奇怪Andrew认为没有风险,还是他认为做不出来AGI么?

长期风险,社会上就要长期准备,这就好比气候变暖。因为人类社会也没有一个总皇帝,今天下了命令,明天就能行动。到时候还要各国谈判,各种利益集团。如果100年出现AGI,那95年开始治理还来得及么?
回复

回到 “史海钩沉(History)”