第二百七十七章 前有带队调研 (3/6)

今天会议的主题是讨论接下来怎么在l100集群里进行模型训练。

说实话，这么短的时间里能把推理跑起来，就已经让江松然震惊过一次了。

这本身是以年计的工程量，在源智一个月就做出来了。

当然了，这里面江松然也是出了大力气的。

是他把在推理阶段可以绕过的问题都绕过去了，才把工程难度降下来，让汤圆及时上线。

忽然，但是现在要做训练，不只是那些没做的工作要做，之前推理阶段逃过的课也一一补上。

“我先说说大方向。”江松然把电脑上的内容投影到了会议室的大屏幕上，“我们可以把这个项目分成两个阶段，一个是算子的阶段，适配做完之后，先在小集群验证，只能做一些小规模的训练，不超过7b。”

“第二阶段才是用这套东西组千卡甚至万卡级的大集群，这里面涉及很多卡间通信的挑战，我们之后再说。”

江松然指了指屏幕上列出来的密密麻麻的算子，最上面的十几行标了绿，中间还有几十行是黄色的，剩下的都是红的。

绿色是正反向都做完的，黄色是只做了正向、反向用了近似值的，红色则是完全没做、用近似实现代替的。

江松然说道：“前向算子只是第一层，真正麻烦的是训练需要反向算子，还要保证数值稳定。很多算子推理的时候能用近似实现，训练不行，要实现高精度，就一点儿一点儿抠，这是个苦力活儿。”

说完他苦笑一声。

紧接着，要是用cua，这个苦力活儿英伟达已经替你干好了，你只需要考虑怎么设计训练管线、训练策略就行。

现在用硅明的l100，他们的软件团队就不用指望了，所有的活都源智的团队做，虽然最近招来的人都有丰富的调优经验，也做好了攻坚准备，但是这种事情急不。

活儿多不可怕，但是你不能设置不合理的预期。

这些话江松然没说出来，因为韩路一在会议开头已经透露了一个意思：优先攻坚l100的训练能力，完成汤圆1.0的训练。

虽然他没说预期多长时间做完，但是你听听这个名字，现在发布的是0.9，要优先把1.0训练完，这个任务难道还能等一年多吗？

他只能把最乐观的估计说出来：“我估计，三个月能把一阶段做完，二阶段的通信要六个月，还要花六个月做算子调优——这是最保守的估计，十五个月以后，可以尝试做训练。”

与此同时，实际上做过工程的人都知道，这种估计真做起来，花的时间翻倍都不止。但他实在是说不出口，让汤圆1.0三年之后再开始训练。

0.9都发布三年了，才训练1.0，你听听这是人话吗？