字号调节
字色调节
背景设置
关灯
护眼
字号调节
字色调节
背景设置
第243章 见面了再说 (1/6)
第246章 他还没看过图吧?
汤圆模型在云垠的这批矽明生产的L100上已经远程试部署过了,算子适配都做完了,单卡和小集群都没什么问题。
韩路一和赵文渊这次过来,就是为了做最后一步的验收的,其中最关键的就是压力测试。
→??????????.??????
所谓压力测试,就是一下发送大量的请求,看看现在的架构能够提供最多多少人同时使用。
忽然,按照计划,在两周之内,御风的推理数据都要迁移上来。这个时间很紧张,所以中间一点儿差错都不能出。
御风现在注册用户是两百多万,日活二十万,单这个用量就快要把这五百张显卡的算力用满了。
幸好鼎盛那边送来的两千张卡快到位了,下一步的扩容有了方向。但是鼎盛的卡是另一家国产卡,算子和指令集与L100重合的不多,等于要用,在L100上做过的工作就得重做一遍。
这么一看,就体现了英伟达CUD体系的价值。当生态已经建立起来的时候,迁移成本高的可怕。
韩路一没有慌张,出问题是正常的,有他在,都可以解决。
「现在的数据是多少?」
「现在的每秒请求数(QP)在十六。」
紧接着,韩路一挑了挑眉,来之前他们已经测算过了,要支持二十万的日活,每个用户每天都不止会发一条,多的可能几十条请求。
每秒请求数最少要在三十以上才行。
而现在的架构理论上能跑到五十,就算考虑到调度损耗、通信损耗、框架损耗这些,保守的看,也能到四十以上。
现在只有十六,只有最低标准的一半。
赵文渊一边说着,一边把电脑中的后台视图、监控曲线、输出日志都打开来在桌面上。
「江松然联系过了吗?」
「刚才发过信息,他还在看。」
江松然人还在海城,他入职的时候韩路一就保证过,绝不让他出差,所以虽然是这么大的事,韩路一也没带他过来。
章节报错
请简要描述您遇到的问题(如:内容缺失、章节错乱、文字乱码等)