字号调节
字色调节
背景设置
关灯
护眼
字号调节
字色调节
背景设置
第一百九十五章 闻过味了 (4/7)
“你这……”赵文渊一时不知道怎么接话了,“这两个我让组里今天就开。”
“不急。”江松然摆了摆手,“先把已经达标的这三十四个用现成的脚手架串起来,跑一遍空载,把链路打通,这两个等做好了再补进去,到时候哪儿不对一目了然。”
赵文渊点头,站起来转身去喊人。
他一边走一边又有点儿懊恼。
今天又装逼失败了。
——这是哪儿来的神仙啊。
赵文渊把手下的组员都叫过来,交代了任务,今天就开始搭脚手架,尝试用最小模型拉一个链路出来,在 8卡环境下跑一圈。
周围的工程师都是一愣:“今天?”
江松然在旁边补了一句:“跑的时候把 Profiler打开,不要只看最后的成败,每一步的耗时、等待时间、内存拷贝、通信比例,这些数据都有价值。”
众人还不认识江松然,都看向赵文渊,赵文渊点了点头,大家才散开。
赵文渊转过身来对江松然说:“江博士,谢谢你,这个确实是我没想到的点。还好你现在指出来了。”
江松然脸上倒是毫无骄傲的神情,他说:“这不是你的问题,咱们推进的太快了。”
赵文渊不解:“太快了?”
江松然说:“你知道我们当年做 TPU的时候,花了多久才意识到这个问题吗?”
赵文渊递了个话:“多久?”
“三年。”江松然说,“你们现在才做了多久?最多半年吧?”
赵文渊已经没有纠正这个的欲望了,这点儿小逼不装也罢。
江松然接着说:“正常来说,一个团队还卡在第一个SDPA的时候,不需要想这么远。咱们现在的问题,是已经把最难启动的部分打穿了,所以系统性问题提前暴露了——”
“这是好事。”
说完,江松然又打开赵文渊电脑上的那几个已经超过 80%效率的算子文件夹,说道:“这些实现是你把关的吧?这得需要对底层有很深的理解才能做的出来,不管有没有智能体这种工具,这个理解是做不了假的。”
章节报错
请简要描述您遇到的问题(如:内容缺失、章节错乱、文字乱码等)