新未名空间

弃婴千枝 写了： 2025年 10月 11日 22:35

你这智商，计算卡需要32bit 64bit
但是推理卡现在趋势是都用4bit，8bit已经属于淘汰技术了

我说的就是华为训练卡只有8bit，你懂个几把
推理卡的4bit模型也是从32bit模型修剪得到的。我以前搞过AI，没有谁用8bit训练的，当然理论也可行