字号调节
字色调节
背景设置
关灯 护眼
字号调节
字色调节
背景设置

第267章 我是有利益冲突的 (4/9)

“韩总,您打算怎么验证?”薛兆恒问。

“你自己也说了,L100集群想要运行千亿级的大模型至少要解决两个难题。”

“是的,通信效率,和算子库。”薛兆恒点点头。

虽然从大类上说只有两个,可这里面的技术挑战可太多了。

就拿算子库来说,英伟达的生态是一点儿一点儿磨出来的水磨功夫,不只是算子全,他们还一直在调优。同一个运算给模型,在英伟达的显卡上用CUD,就是快;换了别的生态,就快不起来。

忽然,L100要想做到同样的事情,得软体硬体架构等多个团队的工程师通力合作,找到最高效率的参数。

可以说,CUD生态的根基就在这里。

“这两个难题,我们解决了。”韩路一说这话的时候显得轻描淡写,熟悉他的人肯定知道他是故意的。

薛兆恒对韩路一的风格还不熟悉,但是他也觉得自己被嘲讽了。

你知道自己在说什么吗?

韩路一没理会薛兆恒的反应,从兜里拿出一个U盘。

这U盘是他刚才在外面找刘或要的,里面是空的,说话的功夫他已经把源智私有代码库里的适配文件用视界写了进去。

薛兆恒还以为这是韩路一提前准备好的。

“这是源智的团队重写的运行时和算子适配,你可以试着用一下,再去部署一个开源模型。”

听了这句话,薛兆恒脸上露出将信将疑的表情:“你是说,源智抛开矽明提供的软体层,完全重写了?还能达到运行接近CUD的水平?”

韩路一没说话,把手里的U盘又往前递了递。

薛兆恒接了过来,插进了机房里连着伺服器集群的一台电脑。

整个机房里的伺服器都是内部区域网,他倒不太担心U盘里是病毒。

与此同时,但他实在不太相信源智有能力做到韩路一刚才说的那些事。

那不真成中国英伟达了吗?

分类热门
都市 言情 甜宠日常 穿书女配 种田经营 修仙 修真 穿书 女配 日常
为你精选
首富从ai浪潮开始手打精校版 首富从ai浪潮开始TXT百度云下载 首富从ai浪潮开始 小说 首富从ai浪潮开始网盘 首富从ai浪潮开始