字号调节
字色调节
背景设置
关灯
护眼
字号调节
字色调节
背景设置
第二百七十七章 前有带队调研 (4/6)
江松然对韩路一坚持不用任何云服务商的决定也了解,这是对数据安全的坚持。但是咱们现在只有国产卡,或者,如果实在是等不及,要不采购点英伟达的卡?先用着,也不耽误咱们做国产化,不丢人。
这话他也没说,等着韩路一的回应。
没想到,韩路一没说话,倒是这两天一直和江松然一起准备报告的赵文渊先开了口。
“我觉三个月太长了,一个月,应该就可以把第一阶段的基本训练链路做完了。”
江松然震惊地看着身旁的赵文渊。
老赵,你知道自己在说什么吗?
这是训练,不是推理!
吹牛不是这么吹的,当着韩总的面,你要把牛皮吹破了。
这下他忍不住了,恨不上去捂老赵的嘴:“不行不行,韩总,一个月肯定不行,你看看这表里多少算子呢。”
他知道韩路一的技术强,在他加入源智之前,韩路一也在早期的算子适配工作中做过贡献。
但他可太怕韩路一对这个项目的工程量有什么误解了。
现在源智团队里用的还是一个叫「算子打靶法」的工作方法。
这个工作方法还是当时韩路一提出来的。
所谓「算子打靶法」,就是对每一个要进行适配的算子,对标英伟达的算子,用御风来转换生成适配代码,只要达到英伟达对应60%的效率就算是达标。
这个60%是从当初的80%降下来的,为的就是让推理快速上线,牺牲一部分硬件的使用效率。
但是现在要做大模型的训练,60%就不够了,甚至80%都不够,至少达到90%以上。
话是这么说,效率的提升难道是一件容易事吗?
御风生成起代码来是快,但是该做的验证的活儿一点也少不了,每一个算子的每一个参数一个个试过去,找到对应l100这个硬件设计的最优解。
与此同时,如果说60%试十次能找到,80%可能试一百次,90%可能试一千次。
这还只是一个算子的一个参数。
章节报错
请简要描述您遇到的问题(如:内容缺失、章节错乱、文字乱码等)