第158章 我给你留了个位置 (1/7)

虽然韩路一刚说了苏念念，可是其实他也给自己安排了视频会议。

和赵文渊。

赵文渊自从请假之后就没来办公室上班了，最近一直在家搭数据管线，在鼎盛那边的程序走完之前做准备工作。

两人先把训练的策略过了一遍，会议结尾，韩路一问了一下时间线。

“文渊，鼎盛那边账户大概这两天就能配好，你这边什么时候能开跑？”

忽然，电话那头，赵文渊停顿了一会，仿佛在组织语言，然后才开口道：“韩总，就算算力到位了，开跑之前还有一道坎。”

“什么坎？”

“上周五我和你说的，预训练数据的预清洗。”

韩路一坐在办公桌前想了想，是有这么回事。

“咱们现在手里有什么了？坎在哪？”韩路一问道。

“有CommonCrawl里的数据，还有公共版权的书籍资料，我想在清洗这块优化一下，但是搞了几天还没头绪。”赵文渊解释道。

“嗯……我晚上回去看看。”

挂断视频，韩路一在办公室里思索起来。

韩路一想起来赵文渊的属性面板。

【赵文渊】

【技术S（研究SS）」协作C」稳定A】

【特技：大模型训练」大模型后训练】

后训练是他的强项，预训练这边可能就没有那么熟悉了。

与此同时，当然了，大模型现在也出来几年了，论文发了那么多，大家没吃过猪肉也见过猪跑了。技能是可以迁移过来的，摸索摸索，预训练也没有那么难。

想要从头做大模型，真正的瓶颈还在数据和算力。