新未名空间

omicron 写了： 昨天 14:18

除了技术本身，陶哲轩最愤怒的是这种“暴力介入”带来的学术生态灾难。

其实最大的问题是，AI 用暴力的方法解题后，让科学家失去了兴趣，不去探索新的解题方法了。

酸味透出纸来了

计算机写代码，替代码农，也没发生啊

计算机不知道代码意义，有很多bug和地雷，虽然写的快，还得人去把关

最多是能减少初级码农，问题是高级码农也是从初级来的，没了初级码农，公司以后就青黄不接了

mmking 写了： 昨天 14:51

最后一个确实是隐忧

人脑没有AI暴力快，于是开放的conference idea被快速剽窃

AI在这种意义上带来的意义是速度填满convex hull，后果有三：
1.人类初级学者没有play ground了，因为low hanging fruit都没有了
2.idea不会被share。所以我只写到2，不写第三点了

所以要建立一个机制使idea得到认可。

以前都说idea is cheap，那是因为后期工作更重要。现在不一样了。

thinkaout 写了： 昨天 14:40

陶哲轩看来也害怕了。扯那么多干嘛呢，没谁规定必须跑姿优美才能参加100米大赛，如果一个人跑的很难看姿势也不科学是不是破了纪录也不算？因为他/她的跑步训练方式和姿势不能对短跑这项运动提供有用的借鉴？

有些问题的yes/no 答案没什么意义，但是人来做可能拓展工具。AI如果只给个答案就是添乱。

ideaing就是labeling

低级labeler一天100，高级labeler一个idea10000

TheMatrix 写了： 昨天 14:59

所以要建立一个机制使idea得到认可。

以前都说idea is cheap，那是因为后期工作更重要。现在不一样了。

omicron 写了： 昨天 14:59

计算机写代码，替代码农，也没发生啊

计算机不知道代码意义，有很多bug和地雷，虽然写的快，还得人去把关

最多是能减少初级码农，问题是高级码农也是从初级来的，没了初级码农，公司以后就青黄不接了

碼农的代码和現实世界相关，总有LLM漏掉的問題。数學反而更接近純語言結構，更適合LLM。

数学家物理学家和各种艺术家一样
本来就是有钱人自己或者有钱人保养的自娱自乐或者在peers里装逼
人类技术的进步和数学家物理学家没啥关系
或者说就是人类社会经济和经济学家的关系

纳税人养数学家物理学家本来就是文明的堕落

hahan 写了： 昨天 16:17

数学家物理学家和各种艺术家一样
本来就是有钱人自己或者有钱人保养的自娱自乐或者在peers里装逼
人类技术的进步和数学家物理学家没啥关系
或者说就是人类社会经济和经济学家的关系

纳税人养数学家物理学家本来就是文明的堕落

这扯的。。。如果没有麦克斯韦方程组就没有赫兹去做无线电实验。

verdelite 写了： 昨天 16:25

这扯的。。。如果没有麦克斯韦方程组就没有赫兹去做无线电实验。

So?
只要经验积累到一定程度
并不需要什么科学家做预测
时间早晚问题

hahan 写了： 昨天 16:30

So?
只要经验积累到一定程度
并不需要什么科学家做预测
时间早晚问题

没有理论的话，很难想象电磁波这种东西。而且经验再积累也很难想出电磁波实验。

cocoa 写了： 昨天 16:14

碼农的代码和現实世界相关，总有LLM漏掉的問題。数學反而更接近純語言結構，更適合LLM。

因为数学是基于逻辑推理的，和现实世界无关。

数学不过是人类自己的意淫，认为用数学可以代表现实世界，数学最合适LLM这样的脱离现实世界的AI推理

码农的程序虽然也是基于布尔代数，但是有很多现实世界的各种变量，影响程序内容

AI本质上是个做题家，起的作用是破坏性的。

omicron 写了： 昨天 14:18

AI通过“黑箱式”或“暴力穷举”给出的原始解（尤其是隐藏了思考过程、缺乏洞见的代码或具体表达式），对数学发展的长远价值微乎其微，甚至会破坏整个数学研究的生态系统

缺乏“洞见”的答案只是海水，无法饮用

陶哲轩做了一个生动的比喻：

“一个国家可能同时面临严重的饮用水短缺，却又被浩瀚的海洋所环绕。”

数学界从来不缺问题或繁琐的计算，但不是所有问题都有“饮用价值”。传统的数学难题之所以重要，是因为在人类尝试解决它的漫长过程中，会催生出全新的数学工具、洞察力和方法论（例如证明费马大定理推动了代数几何）。如果 AI 只是用海量算力强行搜索出一个极其病态、复杂的反例表达式，却不提供可理解的数学逻辑，这就属于“只有答案，没有理解”。

纯粹的黑箱解无法滋养数学系统

这种“暴力速通”得出的结果，人类需要花费数年时间去反向推导和消化。陶哲轩表示，无节制地使用这些强大的黑箱工具，虽然能达成眼前的短期目标（拿到证明），但它代价惨重。如果答案不包含深刻的科学洞见，对于人类科学的长远发展而言毫无意义，甚至会污染原本清晰的“难度地形”，让后来的数学家无法辨识未来的探索方向

“算力霸凌”正在杀死开放科学传统

除了技术本身，陶哲轩最愤怒的是这种“暴力介入”带来的学术生态灾难。
在过去，数学家有了新灵感，会在学术会议上公开讨论，大家互通有无。而现在，当人类数学家刚刚摸索出一条有希望的解题路径（如纽约大学团队近期的进展），科技巨头就能闻风而动，调集几万张显卡在几天内沿着该方向暴力穷举“截胡”。
陶哲轩悲观地指出，这种“算力狙击”会导致未来的数学家再也不敢公开交流自己的研究方向，所有人都会被迫把灵感藏起来，彻底逆转数百年来赖以生存的“开放科学”传统。

omicron 写了： 昨天 14:18

AI通过“黑箱式”或“暴力穷举”给出的原始解（尤其是隐藏了思考过程、缺乏洞见的代码或具体表达式），对数学发展的长远价值微乎其微，甚至会破坏整个数学研究的生态系统

缺乏“洞见”的答案只是海水，无法饮用

陶哲轩做了一个生动的比喻：

“一个国家可能同时面临严重的饮用水短缺，却又被浩瀚的海洋所环绕。”

数学界从来不缺问题或繁琐的计算，但不是所有问题都有“饮用价值”。传统的数学难题之所以重要，是因为在人类尝试解决它的漫长过程中，会催生出全新的数学工具、洞察力和方法论（例如证明费马大定理推动了代数几何）。如果 AI 只是用海量算力强行搜索出一个极其病态、复杂的反例表达式，却不提供可理解的数学逻辑，这就属于“只有答案，没有理解”。

纯粹的黑箱解无法滋养数学系统

这种“暴力速通”得出的结果，人类需要花费数年时间去反向推导和消化。陶哲轩表示，无节制地使用这些强大的黑箱工具，虽然能达成眼前的短期目标（拿到证明），但它代价惨重。如果答案不包含深刻的科学洞见，对于人类科学的长远发展而言毫无意义，甚至会污染原本清晰的“难度地形”，让后来的数学家无法辨识未来的探索方向

“算力霸凌”正在杀死开放科学传统

除了技术本身，陶哲轩最愤怒的是这种“暴力介入”带来的学术生态灾难。
在过去，数学家有了新灵感，会在学术会议上公开讨论，大家互通有无。而现在，当人类数学家刚刚摸索出一条有希望的解题路径（如纽约大学团队近期的进展），科技巨头就能闻风而动，调集几万张显卡在几天内沿着该方向暴力穷举“截胡”。
陶哲轩悲观地指出，这种“算力狙击”会导致未来的数学家再也不敢公开交流自己的研究方向，所有人都会被迫把灵感藏起来，彻底逆转数百年来赖以生存的“开放科学”传统。

神童陶遇到了围棋选手的同样困局

下不过

看不懂。

wolf_north_1234 写了： 昨天 17:36

神童陶遇到了围棋选手的同样困局

下不过

看不懂。

日前八冠王柯洁在直播里爆了个猛料，他找到一套能稳赢顶级AI的的方法，那就是扮弱智。

你要是反其道而行之，开局就乱下，怎么离谱怎么来，AI反而会翻车。

说白了，就是把自己伪装成一个完全不会下棋的人，让AI觉得这对手菜得抠脚，我随便下都赢了。

那AI真的会上当吗？还真会。

柯洁当场就展示了一盘棋谱：黑棋（人类）全程各种离谱操作，白棋（AI）一路顺风顺水，局势评估一直显示自己大优。结果下着下着，AI中部一条超级大龙悄无声息就被包围了，等到终局一数，人类狂胜160目。

说到这儿肯定有人问：不对啊，AI算力那么强，每秒算上亿种变化，怎么可能看不出大龙要死？

这里小雷得给大家掰扯掰扯底层逻辑。其实AI不是看不见，而是不敢相信。

你们想啊，现在的围棋AI是怎么训练出来的？它学的棋谱，99%都是职业棋手、高水平对局，所有人都在追求最优解，每一步都讲究效率、讲究棋理。在AI的认知里，对手是一定会按逻辑下棋的，是一定会往赢了下的。

它的整个评估系统，都建立在对手是理性的这个默认前提上。

结果你上来就乱下，走的棋在训练数据里出现的概率无限接近于零。这就好比你每天上班走同一条路，突然有一天有人在马路中间倒立走路，你第一反应不是他要去哪儿，而是这人有病吧，大脑直接宕机。

AI也是一样。当人类持续输出完全不合棋理的招法时，它的胜率评估模型直接就歪了。它会觉得对手这么菜，我随便下都赢了，于是放松了对大龙死活的警惕，甚至会主动简化局面、放弃复杂计算。

但它万万没想到，人类前面所有的弱智操作，全是演的。

那些看似没用的废子，其实早就布成了一张大网，就等AI一头扎进来。等到AI反应过来不对劲的时候，大龙已经被包得严严实实，跑都跑不掉了。

说穿了，这不是人类在棋力上赢了AI，而是人类利用了AI的思维盲区，打了一场信息差的伏击战。

但其实这事不是什么新发现。

早在2022年，美国的FAR AI研究团队就做过相关实验了。他们发现，一个业余四段的人类棋手，用这种荒诞的下法，能稳定击败当时世界顶级的围棋AI KataGo，15局赢了14局。

所以柯洁这次直播，其实就是把学术圈早就验证过的结论，用大白话给大众又讲了一遍。

这件事最有意思的地方，不是人类能赢AI，而是它暴露了当前AI的一个本质缺陷：它很擅长处理见过的问题，但面对完全超出预期的荒诞，它的判断力会直线下降。

可现实世界里，最不缺的就是不按常理出牌的人。

omicron 写了： 昨天 17:47

日前八冠王柯洁在直播里爆了个猛料，他找到一套能稳赢顶级AI的的方法，那就是扮弱智。

你要是反其道而行之，开局就乱下，怎么离谱怎么来，AI反而会翻车。

说白了，就是把自己伪装成一个完全不会下棋的人，让AI觉得这对手菜得抠脚，我随便下都赢了。

那AI真的会上当吗？还真会。

柯洁当场就展示了一盘棋谱：黑棋（人类）全程各种离谱操作，白棋（AI）一路顺风顺水，局势评估一直显示自己大优。结果下着下着，AI中部一条超级大龙悄无声息就被包围了，等到终局一数，人类狂胜160目。

说到这儿肯定有人问：不对啊，AI算力那么强，每秒算上亿种变化，怎么可能看不出大龙要死？

这里小雷得给大家掰扯掰扯底层逻辑。其实AI不是看不见，而是不敢相信。

你们想啊，现在的围棋AI是怎么训练出来的？它学的棋谱，99%都是职业棋手、高水平对局，所有人都在追求最优解，每一步都讲究效率、讲究棋理。在AI的认知里，对手是一定会按逻辑下棋的，是一定会往赢了下的。

它的整个评估系统，都建立在对手是理性的这个默认前提上。

结果你上来就乱下，走的棋在训练数据里出现的概率无限接近于零。这就好比你每天上班走同一条路，突然有一天有人在马路中间倒立走路，你第一反应不是他要去哪儿，而是这人有病吧，大脑直接宕机。

AI也是一样。当人类持续输出完全不合棋理的招法时，它的胜率评估模型直接就歪了。它会觉得对手这么菜，我随便下都赢了，于是放松了对大龙死活的警惕，甚至会主动简化局面、放弃复杂计算。

但它万万没想到，人类前面所有的弱智操作，全是演的。

那些看似没用的废子，其实早就布成了一张大网，就等AI一头扎进来。等到AI反应过来不对劲的时候，大龙已经被包得严严实实，跑都跑不掉了。

说穿了，这不是人类在棋力上赢了AI，而是人类利用了AI的思维盲区，打了一场信息差的伏击战。

但其实这事不是什么新发现。

早在2022年，美国的FAR AI研究团队就做过相关实验了。他们发现，一个业余四段的人类棋手，用这种荒诞的下法，能稳定击败当时世界顶级的围棋AI KataGo，15局赢了14局。

所以柯洁这次直播，其实就是把学术圈早就验证过的结论，用大白话给大众又讲了一遍。

这件事最有意思的地方，不是人类能赢AI，而是它暴露了当前AI的一个本质缺陷：它很擅长处理见过的问题，但面对完全超出预期的荒诞，它的判断力会直线下降。

可现实世界里，最不缺的就是不按常理出牌的人。

听柯杰胡址。

他与刚出道的Al不是两盘正式比赛全输？

后来master去国內围棋网，野狐，横扫6O位中，日，韩棋手，人类全输，60盘的最后是老聂。

人类跟汽车比马拉松，不要嘴硬。

想起了邓教授。他数学围棋都不错。现在全被AI碾压

wolf_north_1234 写了： 昨天 17:55

听柯杰胡址。

他与刚出道的Al不是两盘正式比赛全输？

后来master去国內围棋网，野狐，横扫6O位中，日，韩棋手，人类全输，60盘的最后是老聂。

人类跟汽车比马拉松，不要嘴硬。

柯杰那时候不知道这些

挺正常的，LLM和现在的AI不都是基于概率训练的，用概率来优化的

开始就走低概率的走法，就在AI训练和优化之外了，完全暴力计算，现在电脑还处理不了这么多变化

之间和现在的AI博弈，这招是最好

hahan 写了： 昨天 16:17

数学家物理学家和各种艺术家一样
本来就是有钱人自己或者有钱人保养的自娱自乐或者在peers里装逼
人类技术的进步和数学家物理学家没啥关系
或者说就是人类社会经济和经济学家的关系

纳税人养数学家物理学家本来就是文明的堕落

物理学家还是对人类文明有贡献的。物理学家是对自然的朴素的描述，需要“看见”，然后偏故事，如果看不见“暗物质，暗能量，黑洞內部”，故事就无从编起。即使科学发展到今天，单电子，引力都还编不好。

数学就是人类自娱自乐的游戏，与围棋类似。

omicron 写了： 昨天 18:00

柯杰那时候不知道这些

挺正常的，LLM和现在的AI不都是基于概率训练的，用概率来优化的

开始就走低概率的走法，就在AI训练和优化之外了，完全暴力计算，现在电脑还处理不了这么多变化

之间和现在的AI博弈，这招是最好

做模型的对付柯杰，背后调参数很容易。

Al的围棋下得对吗？

肯定不对。