原创：中国AI危机意识已经晚了。过去十年从上到下混吃等死，现在是真的一眼看到死了

[ZMZM]

两带宽是一回事吗？ cisco是搞网络的，cisco是互联网带宽。一个人需求当然有上限。你家需要几个g的带宽吗？

ai的带宽是gpu和内存间通讯的。所以mu的hbm牛逼呐，你鳖制裁半天，mu无所谓接着涨。说的算力无上限，是算力需求无上限。

能把这两带宽混淆，你们也就剩扎小人的本事了。

消费者对网络的需求有上限吗？那为啥思科跌了呢？目前看对算力有要求，不是对单个芯片的要求，是整个cluster 的要求；cluster 的要求里面以网络带宽限制为主。比如前段时间openai说用azure 上万个GPU做training,他的限制是什么？

[fangkuuaih]

消费者对网络的需求有上限吗？那为啥思科跌了呢？目前看对算力有要求，不是对单个芯片的要求，是整个cluster 的要求；cluster 的要求里面以网络带宽限制为主。比如前段时间openai说用azure 上万个GPU做training,他的限制是什么？

一个柜子里的网络是用nvlink，也是女大的一个护城河。
和外部网络用好像infiniband，这个才和思科有重叠。女大的infiniband也是top。

[ZMZM]

一个柜子里的网络是用nvlink，也是女大的一个护城河。
和外部网络用好像infiniband，这个才和思科有重叠。女大的infiniband也是top。

这个是对的。现在所谓算力啥的限制根本不是什么单一的芯片，是整个cluster+gpu+软件环境的整体性能训练要求。这个要求在美国用得起的也没有几家。就是这几家处于军备竞赛阶段，从而带动了整个市场。但是如果不能转化成收入，这个阶段能持续多久就看华尔街的耐心能撑多久。

[fangkuuaih]

这个是对的。现在所谓算力啥的限制根本不是什么单一的芯片，是整个cluster+gpu+软件环境的整体性能训练要求。这个要求在美国用得起的也没有几家。就是这几家处于军备竞赛阶段，从而带动了整个市场。但是如果不能转化成收入，这个阶段能持续多久就看华尔街的耐心能撑多久。

仅就带宽而言，最重要的是GPU和内存之间的带宽，次之是GPU连接之间的带宽，再次之就是思科这类的网络带宽。

网络带宽的重要性在这里比GPU内存之间的带宽小多了。

[萧武达]

整片原晶的AI芯片已经问世， 4万亿个晶体管集成 90万个计算核心， 做大模型训练，和/或推理 https://www.cerebras.net/product-chip/
公司叫Cerebras - 接下来，称AI这波浪，还有好多新东西会出来。。。https://www.cerebras.net/

[Mongolian02]

你是不懂国际政治。中国不是一家玩。当初原子弹也有苏联成分。中国人再傻逼也知道自己几斤几两。

[newIdRobot]

说三点为什么现在看来，中国在AI争霸战必败的原因。至于问：生成性AI无用，中国搞点智能制造不行吗？一律不回复

第一点： 中文世界信息少，质量差。垃圾进垃圾出。AI时代，想法和内容更重要。这些有创作欲望的人创造的内容，能保证生成式AI等等训练素材方面比中文多样化，这里有个主贴，有兴趣可以看下，不多赘述。
https://newmitbbs.com/viewtopic.php?t=439076

第二点：硬件落后。美国女大的阉割显卡，在中国都供不应求。就算美国不进一步卡脖子，这个差距也是很难短期内追上的。硬件上落后几年，技术上就落后太多了，顶级设备培养出的人才，和阉割设备培养出的人才的对决，你看好谁？AI研发不是靠咬牙坚持，小米加步枪的。

第三点，体制问题。美国靠民主手段释放群众压力和创造力。中国靠行政手段维稳，压制压力和创造力，但胜在集中力强。虽然之前各有利弊，但是这对AI来说是个大坑。AI很可能被敏感词屏蔽，行政命令等非逻辑数据搞懵。而政治制度中的各种雷区，也会让生成式AI步步惊心，比如采集到了反贼的信息，到底要不要训练呢？不可预知的未来，说不定会有AI黑天鹅事件，就好像蚂蚁金服那样，一个急刹车。

综上，中国已经立于败地。这三个问题没有一个好解决，第二条相对来说最容易，反而被拿出来说的最多，最难的第一条，和最不可测的第三条，网络上却噤若寒蝉，有识之士估计都不想说不愿说不能说。我算是那个指出国王没穿衣服的傻小子吧

应该走openai figure1 路线

[netflix]

说三点为什么现在看来，中国在AI争霸战必败的原因。至于问：生成性AI无用，中国搞点智能制造不行吗？一律不回复

第一点： 中文世界信息少，质量差。垃圾进垃圾出。AI时代，想法和内容更重要。这些有创作欲望的人创造的内容，能保证生成式AI等等训练素材方面比中文多样化，这里有个主贴，有兴趣可以看下，不多赘述。
https://newmitbbs.com/viewtopic.php?t=439076

第二点：硬件落后。美国女大的阉割显卡，在中国都供不应求。就算美国不进一步卡脖子，这个差距也是很难短期内追上的。硬件上落后几年，技术上就落后太多了，顶级设备培养出的人才，和阉割设备培养出的人才的对决，你看好谁？AI研发不是靠咬牙坚持，小米加步枪的。

第三点，体制问题。美国靠民主手段释放群众压力和创造力。中国靠行政手段维稳，压制压力和创造力，但胜在集中力强。虽然之前各有利弊，但是这对AI来说是个大坑。AI很可能被敏感词屏蔽，行政命令等非逻辑数据搞懵。而政治制度中的各种雷区，也会让生成式AI步步惊心，比如采集到了反贼的信息，到底要不要训练呢？不可预知的未来，说不定会有AI黑天鹅事件，就好像蚂蚁金服那样，一个急刹车。

综上，中国已经立于败地。这三个问题没有一个好解决，第二条相对来说最容易，反而被拿出来说的最多，最难的第一条，和最不可测的第三条，网络上却噤若寒蝉，有识之士估计都不想说不愿说不能说。我算是那个指出国王没穿衣服的傻小子吧

中国的AI也是用英文训练的

[ZMZM]

仅就带宽而言，最重要的是GPU和内存之间的带宽，次之是GPU连接之间的带宽，再次之就是思科这类的网络带宽。

网络带宽的重要性在这里比GPU内存之间的带宽小多了。

带宽HBM>NVlink>Nic是没有问题的。问题是现在的领先的AI公司的瓶颈是单机还是Rack还是cluster? 现在的需求要求多少个GPU同时training? 为啥女大买了mlnx？BTW，思科在NIC这方面是没有什么市场的。