李飞飞打脸Deepseek
版主： 牛河梁， alexwlt1024
#82 Re: 李飞飞打脸Deepseek
学生做的吧。但是斯坦福的学生现在比国内强不了多少。大过年的还要跟国内卷paper
x1
上次由 ccmath 在 2025年 2月 7日 10:40 修改。
#90 Re: 李飞飞打脸Deepseek
OpenAI说发明了从粮食酿出酒。。。
DeepSeek去OpenAI家偷偷买了两瓶低度粗酿，回家蒸馏一下，然后也宣称自己酿出了好酒，还省时省力。。。
飞飞直接买了两瓶精酿，换了个标签总cost $50
x1
跳出三界外，不在五行中
#92 Re: 李飞飞打脸Deepseek
也顺带打了不少AI“专家”的脸，站台DS的大牛。
money 写了： 2025年 2月 6日 14:48 人家50美元搞出了一个类DS
你DS花了500万，好意思吗？
李飞飞团队“50美元”复现DeepSeek R1真相：基座为阿里云Qwen模型
今日一则关于人工智能领域的新闻引发广泛关注。据报道，李飞飞等斯坦福大学和华盛顿大学的研究人员以不到50美元的云计算费用，成功训练出了一个名为s1的人工智能推理模型。该模型在数学和编码能力测试中的表现，据称与OpenAI的O1和DeepSeek的R1等尖端推理模型不相上下。
这一消息无疑在AI界投下了一颗重磅炸弹，真相究竟如何？
《科创板日报》记者调查和采访业内人士后发现，s1模型的训练并非从零开始，而是基于阿里云通义千问（Qwen）模型进行监督微调。这意味着，s1模型的神奇“低成本”，是建立在已具备强大能力的开源基础模型之上。
通义模型的“基座”作用
根据李飞飞等人的研究论文，s1模型的训练仅使用了1000个样本数据。按照业内共识，这一数据量在AI训练中可谓微乎其微，通常不足以训练出一个具备推理能力的模型。
青年AI科学家、上海交通大学人工智能学院谢伟迪副教授告诉《科创板日报》记者，如果仔细研究斯坦福s1的论文会发现，s1模型的神奇是以通义千问模型为基座进行微调，这1000个样本训练的作用更像是“锦上添花”，而非“从零开始”。
国内某知名大模型公司CEO也向《科创板日报》记者表示：“从论文原文来看，所谓用50美元训练出新的具有推理能力的模型，实际上只是用从Google模型中提炼出来的1000个样本，然后对通义千问模型进行监督微调。这种微调的成本确实很低，但明显是站在既有领先模型的‘肩上’才能做到。”
谢伟迪指出，国内外还有其他团队也声称用极低的成本，训练出了具有推理能力的新模型。但一阅读其论文原文，就会发现它们无一例外都是基于通义模型作为基座进行的。
国外多位人工智能研究者也指出，不少的“新”模型都是建立通义模型基础上
“以通义千问模型作为基座，确实可以用很少的样本数据就达到产生新的推理模型的效果，但如果换成其他基座模型，新模型能力却没有任何的提升。所以，能力真正神奇的是Qwen模型，而不是s1。 ” 谢伟迪说。
低成本训练大模型有局限，但也是方向
尽管s1模型的低成本训练在某种程度上展示了AI训练的潜力，但其局限性也不容忽视。
首先，这种低成本训练依赖于已有的强大基座模型，如阿里通义千问模型。如果没有这样的基座模型，低成本训练的效果将大打折扣。
其次，1000个样本数据的训练量在大多数情况下是不够的，尤其是在需要处理复杂任务的场景中。
此外，低成本训练的成功也引发了对AI模型知识产权和伦理问题的讨论。如果越来越多的研究依赖于已有的基座模型进行微调，那么这些基座模型的开发者是否应该获得相应的回报？如何确保AI技术的公平使用和共享？这些问题都需要业界进一步探讨和解决。
尽管s1模型的低成本训练引发了争议，但其背后的研究思路无疑为AI领域提供了新的思考方向。
武汉人工智能学院一位资深研究人员向《科创板日报》记者表示，如何在保证模型性能的前提下，降低训练成本，是AI研究的一个重要课题。未来，随着技术的进步和算法的优化，或许我们真的能够看到更多低成本、高性能的AI模型问世。
x1
#97 Re: 李飞飞打脸Deepseek
不过是你理解不了的事罢了，有人理解了，客观评价了，就是五毛，不少美国AI大牛对DeepSeek也是点赞的，他们也是五毛对吧
Devil doesn't need an advocate