第九十二章 名字想好了吗 (2/6)

「通用大模型，千亿参数级别，预训练要几千张H100跑两到三个月。」他写了个数，「算力成本几千万美金起步，头部大厂一轮预训练烧一两个亿人民币是常态。」

韩路一知道这些数字，但听赵文渊亲口说出来感觉不一样，毕竟赵文渊是上过手的人。

「三千万人民币，」赵文渊在纸巾上画了个约等号，「四百万美金出头，连一轮预训练的零头都不够。」

「那你有什麽想法？」

「也有别的路，」赵文渊把笔尖点在纸巾上，「做後训练。」

他在「後训练」三个字下面划了条线。

「开源基座模型已经具备通用代码能力了，羊驼模型丶女王模型，都是很好的底子，後训练是在这个基础上做专精。」

」SFT加DPO？」

赵文渊看了他一眼，惊奇的挑了挑眉，又转头看看正一脸茫然看向这边的张彪。

「对，SFT，指令微调，让模型学会特定任务的模式，比如你给它一句自然语言描述，它要生成一个能跑的应用。DP0，直接偏好优化，这是第二步，让模型学会分辨什麽是好的输出丶什麽是差的输出。」

他在纸巾上画了个简单的流程图。

「後训练的算力需求比预训练低一到两个数量级，三千万够启动。」

他把笔放下，先看向张彪。

张彪觉得自己困了，尽力睁大眼睛，眨了眨。

赵文渊放弃让张彪理解这次谈话了，他转向韩路一。

「後训练不拚算力，拚数据，准确的说，拚的是高质量的标注数据。」

韩路一等他继续。

「SFT需要大量的问题丶答案配对。输入是用户的自然语言提示词，输出是可运行的应用代码，这种数据的质量直接决定模型的上限。」

赵文渊身体前倾。

「人工标注一条高质量数据，几十到上百块，十万条就是千万级别的成本，而且标注团队水平参差不齐，做出来的数据你还得反覆清洗。」