分页: 2 / 3
#21 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 17:11
由 wonderstreet
CPU或者其他芯片比如DSP有时候用汇编比C/C++快很多,实际上C/C++里可以嵌入汇编。所以看看GPU是不是可能。
coltzhao 写了: 2024年 12月 2日 17:04
可以,但是CPU现在也没人用汇编来编程了。
你是要干啥?写compiler?
#22 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 17:11
由 huangchong
对cuda有兴趣的话,可以从这本小书开始。 这书非常老了,有些内容已经跑不了了,但是作为入门书仍旧是非常好的。
https://edoras.sdsu.edu/~mthomas/docs/c ... e.book.pdf
#23 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 17:26
由 wonderstreet
#24 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 17:48
由 fyou
千老转行写AI程序?
现在最热门的马工也这么cheap了吗?
#25 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 17:54
由 huangchong
fyou 写了: 2024年 12月 2日 17:48
千老转行写AI程序?
现在最热门的马工也这么cheap了吗?
ai程序本来就是些外行千老写的Python
#26 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 17:54
由 弃婴千枝
早跟你们说了,cuda就是当年超级计算机的pvm或者mpi
#27 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 17:57
由 wanmeishijie
CUDA调用GPU,所谓mpi是调用不同的cpu,考虑硬件结构上两者并不冲突,可以同时使用。但是API和method都不同了
#28 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 18:00
由 xiaoju
尼玛,蒙特利尔大学CS的教授也成了外行钱老。。。
huangchong 写了: 2024年 12月 2日 17:54
ai程序本来就是些外行千老写的Python
#29 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 18:02
由 xiaoju
只是nvidia的标准语言,别的架构有别的玩法
AI底层库基本都是厂商自己做的,比如华为就给pytorch写后段跑在自家NPU上
#30 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 18:09
由 Caravel
弃婴千枝 写了: 2024年 12月 2日 17:54
早跟你们说了,cuda就是当年超级计算机的pvm或者mpi
用过并行计算的人比用过GPU的人少两个数量级。你用一个GRE词汇解释一个小学生词汇。
#31 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 18:31
由 wonderstreet
现在看来,google的AI芯片就不兼容CUDA
#32 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 18:50
由 huangchong
wonderstreet 写了: 2024年 12月 2日 18:31
现在看来,google的AI芯片就不兼容CUDA
cuda只能用在NVIDIA卡上 AMD的显卡都不行
#33 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 20:51
由 wonderstreet
奇怪,这个黄皮袄怎么做到占有市场份额80%+的? 这玩意芯片早就是白菜技术了
huangchong 写了: 2024年 12月 2日 18:50
cuda只能用在NVIDIA卡上 AMD的显卡都不行
#34 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 2日 21:06
由 Caravel
wonderstreet 写了: 2024年 12月 2日 20:51
奇怪,这个黄皮袄怎么做到占有市场份额80%+的? 这玩意芯片早就是白菜技术了
布局早,
其实现在的芯片禁令也帮了老黄
贸易战之前中国有一票初创企业的GPU水平相当高
达到了上一代的水平
但是不能代工都大大延迟了进展
#35 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 3日 13:34
由 coltzhao
wonderstreet 写了: 2024年 12月 2日 17:11
CPU或者其他芯片比如DSP有时候用汇编比C/C++快很多,实际上C/C++里可以嵌入汇编。所以看看GPU是不是可能。
你现在一般优化上卷过做工具链的,很难。除非你的use case非常特别。
#36 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 3日 14:04
由 wonderstreet
不用卷过他们。吹牛逼的时候有这么回事就可以了
coltzhao 写了: 2024年 12月 3日 13:34
你现在一般优化上卷过做工具链的,很难。除非你的use case非常特别。
#37 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 3日 14:12
由 Caravel
用汇编一般是说你需要硬件层面的控制,要直接调用CPU的指令,或者是连寄存器都要特别指定来优化时间。
GPU编程有一部分就是类似汇编,需要用户很清楚现在硬件里面放的的是什么东西。
#38 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 3日 14:33
由 wonderstreet
所以涉及到系统架构。如果gpu可以直接编程,就不用cpu了。我估计cpu还是要,GPU就挂在PCI总线上,cpu也可以控制GPU里的硬件。
所以cpu跑的程序就调用cuda库里的功能
Caravel 写了: 2024年 12月 3日 14:12
用汇编一般是说你需要硬件层面的控制,要直接调用CPU的指令,或者是连寄存器都要特别指定来优化时间。
GPU编程有一部分就是类似汇编,需要用户很清楚现在硬件里面放的的是什么东西。
#39 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 11日 18:01
由 magagop
想知道GPU底層實現的可以看看這個,CUDA閉源,會一頭霧水,ROCm是開源的:
#40 Re: 现在CUDA是GPU的标准语言吗?
发表于 : 2024年 12月 11日 18:02
由 magagop
wonderstreet 写了: 2024年 12月 3日 14:33
所以涉及到系统架构。如果gpu可以直接编程,就不用cpu了。我估计cpu还是要,GPU就挂在PCI总线上,cpu也可以控制GPU里的硬件。
所以cpu跑的程序就调用cuda库里的功能
GPU可以直接編程: