#21 Re: 从目前AI的原理,根本无法超越人类
没花多少,也就1.5亿的tokens,开始用的全是openAI+RAG+Chunking一体化模型,吞吐靠batch 异步提额,还用了用azure openai的tpm/rpm配额
不过,因为最近openAI有些慢,正计划租用万级GPU数据中心跑检索向量数据库仿真等,只把推理与智能编排留个Openai APIs, 这可能需要多花点钱,其实也没多少,还不如人力成本,专门找了个学生进行评测纠错SFT调参等,还有一个学生整个周末泡图书馆收集语料,因为早期的没电子版,Heisenberg很多资料只有德文的