GPU和TPU到底哪个是AI的未来

[GreatCanada]

好像TPU是专门为TRANSFORMER优化的，GPU的CUDA到底是护城河还是束缚？

[verydryice]

这个还是价格说了算。就和算bitcoin一样啊。

[zyyj2021]

最终是TPU，性能， 价格，功耗都优于GPU。

当然通用性不如 GPU

[irisyuan]

最终是TPU，性能， 价格，功耗都优于GPU。

当然通用性不如 GPU

除非有一家专门做TPU的公司出来。否则这种大公司自己弄个组做TPU的就别想了，干不过老黄的

[Trump]

除非有一家专门做TPU的公司出来。否则这种大公司自己弄个组做TPU的就别想了，干不过老黄的

谷歌如果把它的tpu 分拆出来，怎么样？

[irisyuan]

谷歌如果把它的tpu 分拆出来，怎么样？

难！如果是谷歌干TPU的这帮人自己出来组个初创，我觉得机会都大点

[magagop]

好像TPU是专门为TRANSFORMER优化的，GPU的CUDA到底是护城河还是束缚？

CUDA當然是護城河，今天剛剛pull一個random repo，不用CUDA就直接crash，害得我還需要仔細看看怎麼回事，換CUDA就一切正常。普通人用TPU訓練就是找虐。

[magagop]

这个还是价格说了算。就和算bitcoin一样啊。

研發不需要時間嗎？時間不是金錢嗎？用TPU產生的各種蟲子怎麼解決？所以NVDA市值第一，因為用CUDA省錢省事省時間。

[magagop]

最终是TPU，性能， 价格，功耗都优于GPU。

当然通用性不如 GPU

我完全不認可TPU，實際用過就知道了。
谷歌出品都有各種問題：Android、Tensorflow、GCP等等，都是起個大早趕個晚集

[fanqie]

TPU，推理以后是主流． 因为google等公司都需要考虑项目的实际盈利.

GPU好是好， 但是一张卡９０%的利润太夸张了．训练就行了

[GreatCanada]

难！如果是谷歌干TPU的这帮人自己出来组个初创，我觉得机会都大点

分拆和初创有什么区别啊，都是独立了，自己养活自己

[magagop]

分拆和初创有什么区别啊，都是独立了，自己养活自己

分拆閒人多，初創007

[GreatCanada]

分拆閒人多，初創007

不是现在像GOOGLE,META这种大厂都是人均卷的007吗

[hahan]

我完全不認可TPU，實際用過就知道了。
谷歌出品都有各種問題：Android、Tensorflow、GCP等等，都是起個大早趕個晚集

Tpu 有啥问题
为啥Google用的好好的

[magagop]

Tpu 有啥问题
为啥Google用的好好的

TPU已經超過十年七代，結果NVDA登頂市值世界第一，十年前可不是這樣。

[verydryice]

这个东西是看situation的。大家在赶时间出结果的时候，哪个好用用哪个，比如现在女哦/CUDA。结果出来了上服务，哪个省钱用哪个。修BUG之类都是一次性投入，赶时间的时候没空，停下来时间就不缺了。

[zyyj2021]

最终需求大了，肯定都是ASIC, TPU

就像比特币，原来是GPU，后来都是定制芯片，没人用GPU造币了。