现在CUDA是GPU的标准语言吗？

[wonderstreet]

CPU或者其他芯片比如DSP有时候用汇编比C/C++快很多，实际上C/C++里可以嵌入汇编。所以看看GPU是不是可能。

可以，但是CPU现在也没人用汇编来编程了。
你是要干啥？写compiler？

[huangchong]

对cuda有兴趣的话，可以从这本小书开始。 这书非常老了，有些内容已经跑不了了，但是作为入门书仍旧是非常好的。

https://edoras.sdsu.edu/~mthomas/docs/c ... e.book.pdf

[wonderstreet]

好人啊

对cuda有兴趣的话，可以从这本小书开始。 这书非常老了，有些内容已经跑不了了，但是作为入门书仍旧是非常好的。

https://edoras.sdsu.edu/~mthomas/docs/c ... e.book.pdf

[fyou]

千老转行写AI程序？
现在最热门的马工也这么cheap了吗？

[huangchong]

千老转行写AI程序？
现在最热门的马工也这么cheap了吗？

ai程序本来就是些外行千老写的Python

[弃婴千枝]

早跟你们说了，cuda就是当年超级计算机的pvm或者mpi

[wanmeishijie]

CUDA调用GPU，所谓mpi是调用不同的cpu，考虑硬件结构上两者并不冲突，可以同时使用。但是API和method都不同了

[xiaoju]

尼玛，蒙特利尔大学CS的教授也成了外行钱老。。。

ai程序本来就是些外行千老写的Python

[xiaoju]

只是nvidia的标准语言，别的架构有别的玩法

AI底层库基本都是厂商自己做的，比如华为就给pytorch写后段跑在自家NPU上

就像当年jnte的汇编语言

[Caravel]

早跟你们说了，cuda就是当年超级计算机的pvm或者mpi

用过并行计算的人比用过GPU的人少两个数量级。你用一个GRE词汇解释一个小学生词汇。

[wonderstreet]

现在看来，google的AI芯片就不兼容CUDA

[huangchong]

现在看来，google的AI芯片就不兼容CUDA

cuda只能用在NVIDIA卡上 AMD的显卡都不行

[wonderstreet]

奇怪，这个黄皮袄怎么做到占有市场份额80%+的？ 这玩意芯片早就是白菜技术了

cuda只能用在NVIDIA卡上 AMD的显卡都不行

[Caravel]

奇怪，这个黄皮袄怎么做到占有市场份额80%+的？ 这玩意芯片早就是白菜技术了

布局早，

其实现在的芯片禁令也帮了老黄

贸易战之前中国有一票初创企业的GPU水平相当高

达到了上一代的水平

但是不能代工都大大延迟了进展

[coltzhao]

CPU或者其他芯片比如DSP有时候用汇编比C/C++快很多，实际上C/C++里可以嵌入汇编。所以看看GPU是不是可能。

你现在一般优化上卷过做工具链的，很难。除非你的use case非常特别。

[wonderstreet]

不用卷过他们。吹牛逼的时候有这么回事就可以了

你现在一般优化上卷过做工具链的，很难。除非你的use case非常特别。

[Caravel]

不用卷过他们。吹牛逼的时候有这么回事就可以了

用汇编一般是说你需要硬件层面的控制，要直接调用CPU的指令，或者是连寄存器都要特别指定来优化时间。

GPU编程有一部分就是类似汇编，需要用户很清楚现在硬件里面放的的是什么东西。

[wonderstreet]

所以涉及到系统架构。如果gpu可以直接编程，就不用cpu了。我估计cpu还是要，GPU就挂在PCI总线上，cpu也可以控制GPU里的硬件。
所以cpu跑的程序就调用cuda库里的功能

用汇编一般是说你需要硬件层面的控制，要直接调用CPU的指令，或者是连寄存器都要特别指定来优化时间。

GPU编程有一部分就是类似汇编，需要用户很清楚现在硬件里面放的的是什么东西。

[magagop]

想知道GPU底層實現的可以看看這個，CUDA閉源，會一頭霧水，ROCm是開源的：

[magagop]

所以涉及到系统架构。如果gpu可以直接编程，就不用cpu了。我估计cpu还是要，GPU就挂在PCI总线上，cpu也可以控制GPU里的硬件。
所以cpu跑的程序就调用cuda库里的功能

GPU可以直接編程：