字号调节
字色调节
背景设置
关灯
护眼
字号调节
字色调节
背景设置
第三百七十四章 考试合格,但没通过 (4/4)
明天的汇报会嘛,也就是汇报汇报计划。
汤圆本身是万亿级参数的底子,后训练对显存的要求没有那么高,千卡集群就能完成。
想要做万亿级参数大模型的预训练的话,还要在训练集群的规模上再做突破才行。源智现在的总算力有限,要保证大量的推理需求的情况下,还没有余力支持下一轮的预训练。
现在的问题是,如果只看千亿级参数的话,源智已经把训练侧的工作在l100集群上跑通了。
攻关已经完成了。
明天的会上直接就可以展示成果。
“所以韩总,咱们这个汇报该怎么做啊?”赵文渊问道。
章节报错
请简要描述您遇到的问题(如:内容缺失、章节错乱、文字乱码等)