字号调节
字色调节
背景设置
关灯 护眼
字号调节
字色调节
背景设置

第243章 见面了再说 (1/6)

第246章 他还没看过图吧?

汤圆模型在云垠的这批矽明生产的L100上已经远程试部署过了,算子适配都做完了,单卡和小集群都没什么问题。

韩路一和赵文渊这次过来,就是为了做最后一步的验收的,其中最关键的就是压力测试。

→??????????.??????

所谓压力测试,就是一下发送大量的请求,看看现在的架构能够提供最多多少人同时使用。

忽然,按照计划,在两周之内,御风的推理数据都要迁移上来。这个时间很紧张,所以中间一点儿差错都不能出。

御风现在注册用户是两百多万,日活二十万,单这个用量就快要把这五百张显卡的算力用满了。

幸好鼎盛那边送来的两千张卡快到位了,下一步的扩容有了方向。但是鼎盛的卡是另一家国产卡,算子和指令集与L100重合的不多,等于要用,在L100上做过的工作就得重做一遍。

这么一看,就体现了英伟达CUD体系的价值。当生态已经建立起来的时候,迁移成本高的可怕。

韩路一没有慌张,出问题是正常的,有他在,都可以解决。

「现在的数据是多少?」

「现在的每秒请求数(QP)在十六。」

紧接着,韩路一挑了挑眉,来之前他们已经测算过了,要支持二十万的日活,每个用户每天都不止会发一条,多的可能几十条请求。

每秒请求数最少要在三十以上才行。

而现在的架构理论上能跑到五十,就算考虑到调度损耗、通信损耗、框架损耗这些,保守的看,也能到四十以上。

现在只有十六,只有最低标准的一半。

赵文渊一边说着,一边把电脑中的后台视图、监控曲线、输出日志都打开来在桌面上。

「江松然联系过了吗?」

「刚才发过信息,他还在看。」

江松然人还在海城,他入职的时候韩路一就保证过,绝不让他出差,所以虽然是这么大的事,韩路一也没带他过来。

分类热门
都市 言情 甜宠日常 穿书女配 种田经营 修仙 修真 穿书 女配 日常
为你精选
首富从ai浪潮开始手打精校版 首富从ai浪潮开始TXT百度云下载 首富从ai浪潮开始 小说 首富从ai浪潮开始网盘 首富从ai浪潮开始