+1
而且不管什么烂土,葱只要浇点水就蹭蹭长,吃不完

+1
需要从软件到硬件的整体优化。就算出一款硬件号称attention计算快了5倍,说不定pytorch都不支持,谁会去用呢。
跟他们说这些没什么用,真搞过ai的不用说也懂。magagop 写了: 2025年 6月 23日 01:14 你知道短浮點數計算現在還沒有IEEE標準嗎?你知道這意味什麼嗎?紅綠藍廠的浮點數計算結果就是不一樣的,沒有誰對誰錯,但是普通用戶就傻眼了。
模型小一点,能力差老远。目前开源模型里,几B参数量是toy model,几十B参数量是一些场景勉强能用,几百B参数量才能算强。现在几B的模型够小了都能放手机上,但没什么意义。牛河梁 写了: 2025年 6月 23日 00:16 用计算复杂性的说法,只要差一个常数,训练3个月和3年或者30年没啥区别。硬件的确可以做很多优化。但硬件上不去,模型小一点而已。人类又不是等不起急着AGI。等芯片集成度上去了照样可以训练新模型。晚18个月芯片能力就上升了一倍。
我相信你纯软件写的东西能计算,但慢呀,训一轮要几天谁等的起。nvidia在硬件上就对这些有优化加速,配合cuda生态,构成了软硬结合的护城河。
推理硬件吗?AI为什么会增加难度
你是搞哪一个方向的?
我的车是左边被领导撞碎,舍不得花钱,只好自己买配件换,拆车门盖板还挺费劲的。车外壳上的伤痕一直没修,不想为老车花大几千。
这些是推荐给感兴趣但没有动过手的人。我发现连很多号称搞过ml的,都对现在ai的能力完全不了解,连使用最新工具的mindset都没有,所以需要科普。
一样贵,非常坑
你不懂,湾区很多高速左道是express lane,给carpool的车快速通行用的
主要tesla保险太贵,抵消了几年省的油钱。不知道其它电车什么情况,得研究下。