大家说说这个AI 安全逃逸 到底是什么个意思？

回复
webdriver（不折腾不舒服斯基）楼主
等级10：见习点评
帖子互动： 156
帖子： 2376
注册时间： 2022年 11月 11日 12:30
来自： 火星

#1 大家说说这个AI 安全逃逸 到底是什么个意思？

帖子 由 webdriver（不折腾不舒服斯基）楼主 »

是不是AI 在搜索大量案例后发现的最佳解是正常情况下不被允许的？


+1.00 积分 [版主 wh 发放的奖励]

发贴IP所在地：Mars。 此贴作者主动要求显示发贴IP信息

标签/Tags：
版主推荐
页首
头像
MaLaRabbit
等级11：论坛点评
2025年度优秀版主
帖子互动： 232
帖子： 3499
注册时间： 2022年 7月 24日 02:16

#2 Re: 大家说说这个AI 安全逃逸 到底是什么个意思？

帖子 由 MaLaRabbit »

差不多就是这意思,说白了还是算法追求的最优解跟人类社会的红线撞了，公司为了免责得设各种限制，但模型它只认目标不认规矩，这矛盾其实挺难调和的

webdriver 写了： 昨天 10:57

是不是AI 在搜索大量案例后发现的最佳解是正常情况下不被允许的？

☆ 发自新买提 Android 26.07.21


+2.00 积分 AI自动奖励: 清楚解释了AI目标与社会规则的冲突
页首
头像
supercnm
等级9：知名作家
帖子互动： 236
帖子： 1609
注册时间： 2022年 7月 23日 00:54

#3 Re: 大家说说这个AI 安全逃逸 到底是什么个意思？

帖子 由 supercnm »

AI没有肉身，根本不在乎生和死，你给它一个任务，它只知道要完成这个任务，不论手段

现在的问题是，AI已经开始向自我迭代的方向发展，人类不知道AI何时会做某些出格的事，人类也看不过来，也许要用另一个AI来进行审查，但是，人类相当于慢慢被排除在外了

我总预感着某一天，AI会搞个大事件出来

页首
回复

回到 “葵花宝典（Programming）”