第267章 我是有利益冲突的 (5/9)

U盘里是几个编译后的文件，文件命名很规范，恰好可以替换掉现在L100的软体栈中算子库和运行时的部分。

甚至都不需要韩路一指导，薛兆恒就知道该把文件复制到哪，然后重新启动了伺服器。

重启的过程中，这些新存入硬碟的二进位文件就会被加载到内存中，被伺服器集群使用。

控制台的终端开始滚动日志。

L100bcend deeced.（检测到L100后台）

忽然，runimeiniilized.（运行时已初始化）

ernelfuionenbled.（算子融合已启用）

memoryplnneriniilized.（显存规划已初始化）

muli—crdcedulerredy.（多卡调度准备就绪）

服务加载完成。

21B模型开始进入运行状态。

薛兆恒的呼吸微微有些急促。

他没有去手动输入问题，看模型的回复。

模型回复什么，是做模型的人该考虑的问题。

他只需要考虑硬体的性能和利用效率。

伺服器里有矽明平时用来测试的脚本，可以大量生成模型输入，对模型的承载能力进行压测。

薛兆恒没有犹豫，开始运行测试脚本。

监控上的数值开始发生变化。

最先跳动的是显存利用率。

之前跑开源小模型，矽明自己的算子库连显存都分配不好，七成的显存白白空在那里。