chatGPT在应用上有一个潜在的大问题

[acongard]

就是如果人人都用chatGPT，这个系统就失去了自我提升的机会。

比如，如果人人都用chatGPT提升写作，若干年后，chatGPT就只能学习自己的作品了。

这个有点像信息经济学里的悖论。如果市场是高效的，最好的投资方法就是被动投资。可如果人人都被动投资，市场就不可能是高效的。

最终的平衡态可能是大部分人用chatGPT获得廉价低质的服务，少部分人用高价获得高质量的人工服务。chatGPT通过学习这些高质人工服务自我提升。

比如，将来由chatGPT提供廉价法律咨询给大部分客户，真人律师的服务比现在贵的多，但对真人律师的总需求比现在低的多。

类似，将来普通代码由chatGPT完成，但最关键的代码由少数真人程序员完成，对真人程序员的总需求会比现在低得多。

[lasa]

单纯说文字创作和代码创作：

情形一
肉人之后（被迫）专于高质量创作，反倒创新加速了
这样会有越来越多的学习材料

情形二
肉人高质量创作赶不上学习速度
学习材料越来越少了

这时候可以把大量的电子化了的古书拿来学习
之前有人批评chatgpt不能读文言文。。。
估计还有不少拉丁文的书
把存量都学完，然后回到情形一

[cocoa]

就是如果人人都用chatGPT，这个系统就失去了自我提升的机会。

比如，如果人人都用chatGPT提升写作，若干年后，chatGPT就只能学习自己的作品了。

这个有点像信息经济学里的悖论。如果市场是高效的，最好的投资方法就是被动投资。可如果人人都被动投资，市场就不可能是高效的。

最终的平衡态可能是大部分人用chatGPT获得廉价低质的服务，少部分人用高价获得高质量的人工服务。chatGPT通过学习这些高质人工服务自我提升。

比如，将来由chatGPT提供廉价法律咨询给大部分客户，真人律师的服务比现在贵的多，但对真人律师的总需求比现在低的多。

类似，将来普通代码由chatGPT完成，但最关键的代码由少数真人程序员完成，对真人程序员的总需求会比现在低得多。

同类产品会互相较量。当然，人类的水平看不出谁更厉害，只能在公平游戏中看最后输赢。

[verdelite]

这事容易办。chatGPT又不是只能有一个。同样的chatGPT布置10000个，每个定制自己不同的喜好。例如有的设定为阴郁，就喜欢研究这方面的事。有的设定为喜乐。各自独立发展，也可以借鉴对方。

楼主的想法是，一个超大、超级无敌AI。和IBM想法差不多。后来IBM被Intel、Microsoft打败了。

[cocoa]

这事容易办。chatGPT又不是只能有一个。同样的chatGPT布置10000个，每个定制自己不同的喜好。例如有的设定为阴郁，就喜欢研究这方面的事。有的设定为喜乐。各自独立发展，也可以借鉴对方。

楼主的想法是，一个超大、超级无敌AI。和IBM想法差不多。后来IBM被Intel、Microsoft打败了。

要把宇宙的事算尽是不太可能的。所以要竞争淘汰，自然选择。

[TheMatrix]

就是如果人人都用chatGPT，这个系统就失去了自我提升的机会。

比如，如果人人都用chatGPT提升写作，若干年后，chatGPT就只能学习自己的作品了。

这个有点像信息经济学里的悖论。如果市场是高效的，最好的投资方法就是被动投资。可如果人人都被动投资，市场就不可能是高效的。

最终的平衡态可能是大部分人用chatGPT获得廉价低质的服务，少部分人用高价获得高质量的人工服务。chatGPT通过学习这些高质人工服务自我提升。

比如，将来由chatGPT提供廉价法律咨询给大部分客户，真人律师的服务比现在贵的多，但对真人律师的总需求比现在低的多。

类似，将来普通代码由chatGPT完成，但最关键的代码由少数真人程序员完成，对真人程序员的总需求会比现在低得多。

对。现在ChatGPT很大程度上可以取代Stackoverflow。但是没有StackOverflow的话，ChatGPT以后不知到哪里去学了。

除非ChatGPT能真正的思考，自己创造，还有很多不同的版本，并和真人交流。

[TheMatrix]

单纯说文字创作和代码创作：

情形一
肉人之后（被迫）专于高质量创作，反倒创新加速了
这样会有越来越多的学习材料

情形二
肉人高质量创作赶不上学习速度
学习材料越来越少了

这时候可以把大量的电子化了的古书拿来学习
之前有人批评chatgpt不能读文言文。。。
估计还有不少拉丁文的书
把存量都学完，然后回到情形一

对。真人的服务永远是最值钱的。

[lahei]

现在ai最大的问题是找目的。比如alphago目的就很明确，所以很容易校验进化。你得给chatgpt找到进化方向并能指标化它才能进化

[cocoa]

现在ai最大的问题是找目的。比如alphago目的就很明确，所以很容易校验进化。你得给chatgpt找到进化方向并能指标化它才能进化

要给它们淘汰竞争的压力。不能让它们活太久。

[LiuQiangDong]

自动驾驶不是目的很明确么
到达目的地
并且不撞车
还是不行

现在ai最大的问题是找目的。比如alphago目的就很明确，所以很容易校验进化。你得给chatgpt找到进化方向并能指标化它才能进化

[cocoa]

自动驾驶不是目的很明确么
到达目的地
并且不撞车
还是不行

样本太小。人类进化几十亿年也就这样。

[lahei]

自动驾驶不是目的很明确么
到达目的地
并且不撞车
还是不行

已经相当行了，现在问题应该都是一些corner case。具体怎么解决corner case可能还得从目的下手

[shot]

只要过了图灵测试，就没有继续提升的意义了。
继续提升，就是要彻底淘汰人类。

[shot]

自动驾驶不是目的很明确么
到达目的地
并且不撞车
还是不行

自动驾驶，技术问题已经解决了。
现在是成本问题和法律问题。
自动驾驶，统计上的安全性已经超过了肉人。

[da1gaku]

自动驾驶，技术问题已经解决了。
现在是成本问题和法律问题。
自动驾驶，统计上的安全性已经超过了肉人。

其实人肉司机经常犯低级错误，而且还有酒驾、打瞌睡这些问题。
但人们对自动驾驶的期望是永远比最优秀的人肉司机好。

[acongard]

这事容易办。chatGPT又不是只能有一个。同样的chatGPT布置10000个，每个定制自己不同的喜好。例如有的设定为阴郁，就喜欢研究这方面的事。有的设定为喜乐。各自独立发展，也可以借鉴对方。

楼主的想法是，一个超大、超级无敌AI。和IBM想法差不多。后来IBM被Intel、Microsoft打败了。

你说的不属实，除非那些个chatGPT都有完全不同的学习方法，否则就是复制了多个自己而已。

[cocoa]

你说的不属实，除非那些个chatGPT都有完全不同的学习方法，否则就是复制了多个自己而已。

具体方法可以有区别。目标设定可以有小区别。

[verdelite]

你说的不属实，除非那些个chatGPT都有完全不同的学习方法，否则就是复制了多个自己而已。

学习方法加点变化很easy。而且先学什么后学什么，加大其影响。

[faq]

就是如果人人都用chatGPT，这个系统就失去了自我提升的机会。

比如，如果人人都用chatGPT提升写作，若干年后，chatGPT就只能学习自己的作品了。

这个有点像信息经济学里的悖论。如果市场是高效的，最好的投资方法就是被动投资。可如果人人都被动投资，市场就不可能是高效的。

最终的平衡态可能是大部分人用chatGPT获得廉价低质的服务，少部分人用高价获得高质量的人工服务。chatGPT通过学习这些高质人工服务自我提升。

比如，将来由chatGPT提供廉价法律咨询给大部分客户，真人律师的服务比现在贵的多，但对真人律师的总需求比现在低的多。

类似，将来普通代码由chatGPT完成，但最关键的代码由少数真人程序员完成，对真人程序员的总需求会比现在低得多。

属实。

人人都用chatGPT，能自己写的人会不会越来越少，水平越来越低，最后就是chatGPT一同江湖，社会停滞不前了？

跟转基因种子似的。以后是不是也会有heirloom 程序员，heirloom作家的概念了

[TheMatrix]

属实。

人人都用chatGPT，能自己写的人会不会越来越少，水平越来越低，最后就是chatGPT一同江湖，社会停滞不前了？

跟转基因种子似的。以后是不是也会有heirloom 程序员，heirloom作家的概念了

那不会。只会是ChatGPT写的越来越不值钱。最值钱的还是人写出的一点点的不同。

社会就是这样。服务就是人舔人。舔的好以前不值钱，因为需求不到。ChatGPT把一般需求解决了，人就追求更高的那么一点点需求，而且肯花大价钱，而且名之曰高科技。