字号调节
字色调节
背景设置
关灯 护眼
字号调节
字色调节
背景设置

第243章 见面了再说 (4/6)

他随后用对讲机和外面联系了一下。

「问题在网络拓扑。」韩路一说。

声音通过对讲机、再通过视频传到了江松然耳朵里。他马上在电脑上翻找起原始的网络拓扑图来。

这是他自己设计的,为的就是把集群的效率打满。

张彪很快就换好衣服,拿着列印好的拓扑图走了进来。

图和实际一对比,很快就能看出问题了。

江松然原本设计的是为了降低推理组之间通信延迟,把几个关键节点尽量放在同一个低延迟域里。

但云垠实际交付的时候,却没有完全按照这张图来进行部署。

他们使用了自己内部更标准、更容易维护的方法。

普通的、对通信延迟不敏感的伺服器,这种接法完全没问题,属于为了可维护性做的小小牺牲,大家都可以容忍。

但是对大模型的使用场景来说,这一点小延迟就会被放大很多倍。

单点测试当然没问题,整机测试也没问题,因为问题出在伺服器间的通信。

紧接着,江松然的推断其实是对的,再给他一段时间,加上赵文渊的现场排查,他们应该也能查出来。

只是没有韩路一这么快罢了。

赵文渊看着两份图,脸色变得很难看。

他昨晚查了一整夜,什么GPU、驱动、配置、算子、服务、调度,全都查了,结果问题不在他能看到的任何软体层面。

而在机房布线。

还好韩总亲自来了,赵文渊心想。

与此同时,江松然则在视频那边咽了口口水一韩总他是怎么看出来的?他之前是不是连这个原始的网络拓扑图都没看过?

张彪这边,已经迅速叫现场的运维工程师过来,通过节点间测速确认了问题。

分类热门
都市 言情 甜宠日常 穿书女配 种田经营 修仙 修真 穿书 女配 日常
为你精选
首富从ai浪潮开始手打精校版 首富从ai浪潮开始TXT百度云下载 首富从ai浪潮开始 小说 首富从ai浪潮开始网盘 首富从ai浪潮开始