自己做简单的deep learning model training的

版主: Jack12345

回复
wass楼主
论坛精英
论坛精英
2024年度优秀版主
wass 的博客
帖子互动: 695
帖子: 7097
注册时间: 2022年 7月 23日 22:13

自己做简单的deep learning model training的

帖子 wass楼主 »

work station 有推荐的吗?
wass楼主
论坛精英
论坛精英
2024年度优秀版主
wass 的博客
帖子互动: 695
帖子: 7097
注册时间: 2022年 7月 23日 22:13

Re: 自己做简单的deep learning model training的

帖子 wass楼主 »

其实就是开发的idea验证,或者fine tuning,真正的model training肯定不够
Dahuaidanyimei(Badegg)
见习点评
见习点评
帖子互动: 55
帖子: 1393
注册时间: 2023年 3月 14日 16:18

Re: 自己做简单的deep learning model training的

帖子 Dahuaidanyimei(Badegg) »

先搞个云端的再说吧

发现需求真的很大的话再自己搞硬件不迟。
BCQ1
论坛支柱
论坛支柱
帖子互动: 628
帖子: 12986
注册时间: 2022年 7月 29日 19:45

Re: 自己做简单的deep learning model training的

帖子 BCQ1 »

自己搞硬件?AI的目的不就是用CLOUD的硬件吗
dealfinder10
论坛精英
论坛精英
帖子互动: 769
帖子: 6719
注册时间: 2023年 10月 6日 14:56

Re: 自己做简单的deep learning model training的

帖子 dealfinder10 »

训练一个model 需要数据10TB,6000gpu

需要大概200万美元能训练一个base model
wass楼主
论坛精英
论坛精英
2024年度优秀版主
wass 的博客
帖子互动: 695
帖子: 7097
注册时间: 2022年 7月 23日 22:13

Re: 自己做简单的deep learning model training的

帖子 wass楼主 »

说了不是用来训练large model的,就是开发用的
头像
牛河梁(别问我是谁)
论坛元老
论坛元老
2023年度十大优秀网友
2024年度优秀版主
牛河梁 的博客
帖子互动: 1509
帖子: 27025
注册时间: 2022年 11月 17日 21:21
联系:

Re: 自己做简单的deep learning model training的

帖子 牛河梁(别问我是谁) »

重要的是GPU。看你训练的工具支持啥GPU你买那显卡就对了。好的很贵。便宜的在大模型上加训自己的知识动辄要跑几十分钟到几天以上。
头像
mrmaja(Tacoma)
见习点评
见习点评
帖子互动: 141
帖子: 1240
注册时间: 2022年 7月 30日 12:25

Re: 自己做简单的deep learning model training的

帖子 mrmaja(Tacoma) »

图片
webdriver(不折腾不舒服斯基)
知名作家
知名作家
帖子互动: 62
帖子: 1220
注册时间: 2022年 11月 11日 12:30
来自: 火星

Re: 自己做简单的deep learning model training的

帖子 webdriver(不折腾不舒服斯基) »

别想了,当玩具玩玩的硬件价格都能吓死你
Caravel
论坛元老
论坛元老
Caravel 的博客
帖子互动: 563
帖子: 24650
注册时间: 2022年 7月 24日 17:21

Re: 自己做简单的deep learning model training的

帖子 Caravel »

wass 写了: 2023年 11月 27日 13:38 work station 有推荐的吗?
有一块GPU就可以了。
BCQ1
论坛支柱
论坛支柱
帖子互动: 628
帖子: 12986
注册时间: 2022年 7月 29日 19:45

Re: 自己做简单的deep learning model training的

帖子 BCQ1 »

你要想着单机模式自己搞的话,
这个思路就是错误的
caudillo
正式写手
正式写手
帖子互动: 18
帖子: 164
注册时间: 2023年 6月 28日 11:51

Re: 自己做简单的deep learning model training的

帖子 caudillo »

这是15年前的问题吗?5年前估计都够呛,除了上上入门课。
zhangaa(飄搖)
正式会员
正式会员
帖子互动: 2
帖子: 23
注册时间: 2023年 11月 27日 19:13

Re: 自己做简单的deep learning model training的

帖子 zhangaa(飄搖) »

哥哥直接上云租赁算力吧,本地一两张卡现在跑模型都费劲,别说训练了,最多教学或者demo。
训练模型发文章的都是好几个A100之类的跑几小时几天甚至令人发指的几周,喔,对GPT要用月来算时间了。
唉,最后什么也逃不出资本和垄断。
zhangaa(飄搖)
正式会员
正式会员
帖子互动: 2
帖子: 23
注册时间: 2023年 11月 27日 19:13

Re: 自己做简单的deep learning model training的

帖子 zhangaa(飄搖) »

喔,刚看到,这样的话其实买一个40系,甚至30系,都可以啊,显存大些,然后看价钱了,单纯POC的话我觉得速度什么的都不是太大考量,当然要配的上要的价格哈。资金充足的话,买两个级联起来,也不差。
wass 写了: 2023年 11月 27日 14:49 说了不是用来训练large model的,就是开发用的
回复

回到 “电脑手机 - 精华区”