自己做简单的deep learning model training的

版主: Jack12345

回复
wass楼主
正式写手
正式写手
帖子: 201
注册时间: 7月 23, 2022, 10:13 pm

自己做简单的deep learning model training的

帖子 wass楼主 »

work station 有推荐的吗?
wass楼主
正式写手
正式写手
帖子: 201
注册时间: 7月 23, 2022, 10:13 pm

Re: 自己做简单的deep learning model training的

帖子 wass楼主 »

其实就是开发的idea验证,或者fine tuning,真正的model training肯定不够
Dahuaidanyimei
知名作家
知名作家
帖子: 1140
注册时间: 3月 14, 2023, 4:18 pm
昵称(选填): Badegg

Re: 自己做简单的deep learning model training的

帖子 Dahuaidanyimei »

先搞个云端的再说吧

发现需求真的很大的话再自己搞硬件不迟。
BCQ1
论坛支柱
论坛支柱
帖子: 12431
注册时间: 7月 29, 2022, 7:45 pm
昵称(选填): BCQ1

Re: 自己做简单的deep learning model training的

帖子 BCQ1 »

自己搞硬件?AI的目的不就是用CLOUD的硬件吗
dealfinder10
见习点评
见习点评
帖子: 1285
注册时间: 10月 6, 2023, 2:56 pm

Re: 自己做简单的deep learning model training的

帖子 dealfinder10 »

训练一个model 需要数据10TB,6000gpu

需要大概200万美元能训练一个base model
wass楼主
正式写手
正式写手
帖子: 201
注册时间: 7月 23, 2022, 10:13 pm

Re: 自己做简单的deep learning model training的

帖子 wass楼主 »

说了不是用来训练large model的,就是开发用的
头像
牛河梁
论坛支柱
论坛支柱
牛河梁 的博客
帖子: 12925
注册时间: 11月 17, 2022, 9:21 pm
昵称(选填): 别问我是谁
联系:

Re: 自己做简单的deep learning model training的

帖子 牛河梁 »

重要的是GPU。看你训练的工具支持啥GPU你买那显卡就对了。好的很贵。便宜的在大模型上加训自己的知识动辄要跑几十分钟到几天以上。
头像
mrmaja
职业作家
职业作家
帖子: 705
注册时间: 7月 30, 2022, 12:25 pm
昵称(选填): Tacoma

Re: 自己做简单的deep learning model training的

帖子 mrmaja »

图片
webdriver
职业作家
职业作家
帖子: 538
注册时间: 11月 11, 2022, 12:30 pm
来自: 火星
昵称(选填): 不折腾不舒服斯基

Re: 自己做简单的deep learning model training的

帖子 webdriver »

别想了,当玩具玩玩的硬件价格都能吓死你
Caravel
论坛支柱
论坛支柱
Caravel 的博客
帖子: 12262
注册时间: 7月 24, 2022, 5:21 pm

Re: 自己做简单的deep learning model training的

帖子 Caravel »

wass 写了: 11月 27, 2023, 1:38 pm work station 有推荐的吗?
有一块GPU就可以了。
BCQ1
论坛支柱
论坛支柱
帖子: 12431
注册时间: 7月 29, 2022, 7:45 pm
昵称(选填): BCQ1

Re: 自己做简单的deep learning model training的

帖子 BCQ1 »

你要想着单机模式自己搞的话,
这个思路就是错误的
caudillo
小有名气
小有名气
帖子: 36
注册时间: 6月 28, 2023, 11:51 am

Re: 自己做简单的deep learning model training的

帖子 caudillo »

这是15年前的问题吗?5年前估计都够呛,除了上上入门课。
zhangaa
正式会员
正式会员
帖子: 22
注册时间: 11月 27, 2023, 7:13 pm
昵称(选填): 飄搖

Re: 自己做简单的deep learning model training的

帖子 zhangaa »

哥哥直接上云租赁算力吧,本地一两张卡现在跑模型都费劲,别说训练了,最多教学或者demo。
训练模型发文章的都是好几个A100之类的跑几小时几天甚至令人发指的几周,喔,对GPT要用月来算时间了。
唉,最后什么也逃不出资本和垄断。
zhangaa
正式会员
正式会员
帖子: 22
注册时间: 11月 27, 2023, 7:13 pm
昵称(选填): 飄搖

Re: 自己做简单的deep learning model training的

帖子 zhangaa »

喔,刚看到,这样的话其实买一个40系,甚至30系,都可以啊,显存大些,然后看价钱了,单纯POC的话我觉得速度什么的都不是太大考量,当然要配的上要的价格哈。资金充足的话,买两个级联起来,也不差。
wass 写了: 11月 27, 2023, 2:49 pm 说了不是用来训练large model的,就是开发用的
回复

回到 “精华区”