新未名空间

Whyisthis 写了： 2025年 7月 17日 21:38 LLM AI，本质上是一个理解人类语言的巨型数据库，它具有广泛的用途，特别适合于取代或部分取代知识密集型产业，比如坐台医生，律师，会计，文员，但问题是，这些产业在美国都有行会保护，取代它们不是技术问题，而是政治问题（可能会计文员除外），所以，LLM AI在适合它的地方却难以得到推广。

资本家于是软土深掘，尝试用LLM AI取代程序员，反正程序员没有行会，杀掉一个是一个，但程序员不是知识密集型工作，而是逻辑密集型工作，现在的大模型很大程度上是用穷举法来cover逻辑的所有分支，而面对复杂大量关联的逻辑还处理不了，于是就会制造bug甚至乱写一气。此外，程序员的工作不是self-contained，所谓self-contained是指输入输出都是明确的，比如坐台医生，输入就是症状的描述，输出就是检查结果，无论症状描述或者检查结果，都是在大模型的参数里面了。反之，程序员的输入输出可能是一个数据库的数据表，一个奇怪的网页，一个文本文件，一个硬件指令，这些东西千差万别，大模型参数里面没有，需要人工向大模型解释，光解释这些东西花的时间就可能超过大模型帮程序员节省的时间，如果有bug需要大模型根据输入输出调试，花的代价更是不可想象。最后，很多程序员的商业逻辑大模型也不清楚，比如石油公司分析地层结构的软件，这些都是商业机密，不可能告诉通用大模型，公司自己训练也不现实，所以如果在这上面用AI编程，根本就无从下手。华尔街吹牛逼吹到最后，发现所谓的AI编程实际上就和微软VC++ 6.0 生成MFC framework代码的功能本质上一样，就是帮你把架子搭起来，细节得你自己调。这难道不是一个笑话？

当然，大模型在别的国家，特别是医生没有行会保护的国家，应该可以大展拳脚，此外，大模型大量取代穷国的call center是没有问题的。但对于美国，LLM AI的用处真的有限。

justChat 写了： 2025年 7月 18日 10:21 我赞同你标题的结论。只是你举例不是特别恰当。

这么比吧，培养一名医生，医学院+residency+fellowship，大约十年。
初级马工，一年水硕，甚至几个月bootcamp就上岗了，谈不上逻不逻辑的。
从这个最简单指标看，即使没有行业协会，取代医生的难度也是取代初级马工的10倍

boor16 写了： 2025年 7月 19日 13:39 现在的模型能解决幻觉问题吗？不能解决的话，取代文科也没戏啊，只能是辅助作用。

大漠孤烟 写了： 2025年 7月 19日 13:18 LLM就像赤脚医生，推广给普通人没问题，主席自己的医生必须是西方培养的穿皮鞋的。判断这玩意儿到底走向何方，只要盯住权贵们怎么用它。如果有一天马斯克生病只看 DR. GROK, 白宫不再有专职医生，ROCKEFELLER 家里的“医务室”被CHATGPT取代，"中南海门诊部"由DEEPSEEK当家，那么这玩意儿在关键问题上一本正经胡说八道的恶习可能就少多了。

大漠孤烟 写了： 2025年 7月 19日 13:18 LLM就像赤脚医生，推广给普通人没问题，主席自己的医生必须是西方培养的穿皮鞋的。判断这玩意儿到底走向何方，只要盯住权贵们怎么用它。如果有一天马斯克生病只看 DR. GROK, 白宫不再有专职医生，ROCKEFELLER 家里的“医务室”被CHATGPT取代，"中南海门诊部"由DEEPSEEK当家，那么这玩意儿在关键问题上一本正经胡说八道的恶习可能就少多了。