美国LLM AI产业,最后必然一地鸡毛

版主: hci

cellcycle1
论坛元老
论坛元老
cellcycle1 的博客
帖子互动: 875
帖子: 64598
注册时间: 2022年 7月 24日 15:59

#21 Re: 美国LLM AI产业,最后必然一地鸡毛

帖子 cellcycle1 »

Whyisthis 写了: 2025年 7月 17日 21:38 LLM AI,本质上是一个理解人类语言的巨型数据库,它具有广泛的用途,特别适合于取代或部分取代知识密集型产业,比如坐台医生,律师,会计,文员,但问题是,这些产业在美国都有行会保护,取代它们不是技术问题,而是政治问题(可能会计文员除外),所以,LLM AI在适合它的地方却难以得到推广。

资本家于是软土深掘,尝试用LLM AI取代程序员,反正程序员没有行会,杀掉一个是一个,但程序员不是知识密集型工作,而是逻辑密集型工作,现在的大模型很大程度上是用穷举法来cover逻辑的所有分支,而面对复杂大量关联的逻辑还处理不了,于是就会制造bug甚至乱写一气。此外,程序员的工作不是self-contained,所谓self-contained是指输入输出都是明确的,比如坐台医生,输入就是症状的描述,输出就是检查结果,无论症状描述或者检查结果,都是在大模型的参数里面了。反之,程序员的输入输出可能是一个数据库的数据表,一个奇怪的网页,一个文本文件,一个硬件指令,这些东西千差万别,大模型参数里面没有,需要人工向大模型解释,光解释这些东西花的时间就可能超过大模型帮程序员节省的时间,如果有bug需要大模型根据输入输出调试,花的代价更是不可想象。最后,很多程序员的商业逻辑大模型也不清楚,比如石油公司分析地层结构的软件,这些都是商业机密,不可能告诉通用大模型,公司自己训练也不现实,所以如果在这上面用AI编程,根本就无从下手。华尔街吹牛逼吹到最后,发现所谓的AI编程实际上就和微软VC++ 6.0 生成MFC framework代码的功能本质上一样,就是帮你把架子搭起来,细节得你自己调。这难道不是一个笑话?

当然,大模型在别的国家,特别是医生没有行会保护的国家,应该可以大展拳脚,此外,大模型大量取代穷国的call center是没有问题的。但对于美国,LLM AI的用处真的有限。
所以,meta 要完蛋 :(

标签/Tags:
stm32
著名点评
著名点评
帖子互动: 96
帖子: 4021
注册时间: 2022年 7月 26日 12:34

#22 Re: 美国LLM AI产业,最后必然一地鸡毛

帖子 stm32 »

医疗没戏

医疗事故赔钱都赔不起

IBM的华生被医生骂的狗血喷头,就是处理特殊情况全是错的,搞了10几年,最后卖了。

常见的普通情况,病人都可以自己上网搜索,根本不需要AI
stm32
著名点评
著名点评
帖子互动: 96
帖子: 4021
注册时间: 2022年 7月 26日 12:34

#23 Re: 美国LLM AI产业,最后必然一地鸡毛

帖子 stm32 »

大模型就这个特点,靠刷题

不会举一反三

病人特殊情况,判断不见得比复杂编程简单,弄错了,很快出人命
GAGAMA
职业作家
职业作家
帖子互动: 62
帖子: 455
注册时间: 2022年 8月 27日 01:44

#24 Re: 美国LLM AI产业,最后必然一地鸡毛

帖子 GAGAMA »

你知道美国大部分大夫是怎么看病的么?为了不单责任,基本上都是照着手册和标准流程看病的,和你组装IKEA家具没啥本质区别
justChat 写了: 2025年 7月 18日 10:21 我赞同你标题的结论。只是你举例不是特别恰当。

这么比吧,培养一名医生,医学院+residency+fellowship,大约十年。
初级马工,一年水硕,甚至几个月bootcamp就上岗了,谈不上逻不逻辑的。
从这个最简单指标看,即使没有行业协会,取代医生的难度也是取代初级马工的10倍
x1 图片
大漠孤烟
见习写手
见习写手
帖子互动: 35
帖子: 114
注册时间: 2024年 8月 8日 17:51

#25 Re: 美国LLM AI产业,最后必然一地鸡毛

帖子 大漠孤烟 »

LLM就像赤脚医生,推广给普通人没问题,主席自己的医生必须是西方培养的穿皮鞋的。判断这玩意儿到底走向何方,只要盯住权贵们怎么用它。如果有一天马斯克生病只看 DR. GROK, 白宫不再有专职医生,ROCKEFELLER 家里的“医务室”被CHATGPT取代,"中南海门诊部"由DEEPSEEK当家,那么这玩意儿在关键问题上一本正经胡说八道的恶习可能就少多了。
boor16(boor)
正式会员
正式会员
帖子互动: 0
帖子: 26
注册时间: 2023年 4月 29日 13:00

#26 Re: 美国LLM AI产业,最后必然一地鸡毛

帖子 boor16(boor) »

现在的模型能解决幻觉问题吗?不能解决的话,取代文科也没戏啊,只能是辅助作用。
wildthing
著名点评
著名点评
帖子互动: 270
帖子: 4480
注册时间: 2022年 7月 22日 14:25

#27 Re: 美国LLM AI产业,最后必然一地鸡毛

帖子 wildthing »

boor16 写了: 2025年 7月 19日 13:39 现在的模型能解决幻觉问题吗?不能解决的话,取代文科也没戏啊,只能是辅助作用。
问题是90%的办公室工作是简单重复劳动,一个人可以取代过去十个人的工作量
司马光在《资治通鉴》中说日本人:'知小礼而无大义,拘小节而无大德。重末节而无廉耻,畏威而不怀德。强必盗寇,弱必卑伏'。
康熙皇帝在《康熙朝起居注》中这样评论日本人:“倭子国,最是反复无常之国。其人,甚卑贱,不知世上有恩谊,只一味慑于武威……故尔,不得对其有稍许好颜色。”

图片
tiantian2000
论坛点评
论坛点评
帖子互动: 264
帖子: 2957
注册时间: 2023年 6月 21日 19:55

#28 Re: 美国LLM AI产业,最后必然一地鸡毛

帖子 tiantian2000 »

大漠孤烟 写了: 2025年 7月 19日 13:18 LLM就像赤脚医生,推广给普通人没问题,主席自己的医生必须是西方培养的穿皮鞋的。判断这玩意儿到底走向何方,只要盯住权贵们怎么用它。如果有一天马斯克生病只看 DR. GROK, 白宫不再有专职医生,ROCKEFELLER 家里的“医务室”被CHATGPT取代,"中南海门诊部"由DEEPSEEK当家,那么这玩意儿在关键问题上一本正经胡说八道的恶习可能就少多了。
你说反了,屁民从来没法看大领导享受什么,古代皇帝们夏天都能吃冰。医生知识白菜化才是屁民能享受的
webdriver(不折腾不舒服斯基)
知名作家
知名作家
帖子互动: 62
帖子: 1214
注册时间: 2022年 11月 11日 12:30
来自: 火星

#29 Re: 美国LLM AI产业,最后必然一地鸡毛

帖子 webdriver(不折腾不舒服斯基) »

其他方面的描述不敢评论,但是对资深程序员在特定领域无法被现在的AI取代的观点深表赞同。
版上一些人也就是玩玩AI,不是day to day去对付各种需求,各种迭代,各种接口,各种实操,是无法理解现在的AI工具完全无法干我们想让他干的事
abovetherim
知名人士
知名人士
帖子互动: 7
帖子: 75
注册时间: 2023年 12月 14日 11:05

#30 Re: 美国LLM AI产业,最后必然一地鸡毛

帖子 abovetherim »

大漠孤烟 写了: 2025年 7月 19日 13:18 LLM就像赤脚医生,推广给普通人没问题,主席自己的医生必须是西方培养的穿皮鞋的。判断这玩意儿到底走向何方,只要盯住权贵们怎么用它。如果有一天马斯克生病只看 DR. GROK, 白宫不再有专职医生,ROCKEFELLER 家里的“医务室”被CHATGPT取代,"中南海门诊部"由DEEPSEEK当家,那么这玩意儿在关键问题上一本正经胡说八道的恶习可能就少多了。
几个成天吹牛逼的主流llm公司,没一个用他们自己的llm取代他们的客服(which按道理技术含量不高吧?),看来他们自己也知道自己的llm真实能力。
回复

回到 “葵花宝典(Programming)”