字号调节
字色调节
背景设置
关灯
护眼
字号调节
字色调节
背景设置
第243章 见面了再说 (4/6)
他随后用对讲机和外面联系了一下。
「问题在网络拓扑。」韩路一说。
声音通过对讲机、再通过视频传到了江松然耳朵里。他马上在电脑上翻找起原始的网络拓扑图来。
这是他自己设计的,为的就是把集群的效率打满。
张彪很快就换好衣服,拿着列印好的拓扑图走了进来。
图和实际一对比,很快就能看出问题了。
江松然原本设计的是为了降低推理组之间通信延迟,把几个关键节点尽量放在同一个低延迟域里。
但云垠实际交付的时候,却没有完全按照这张图来进行部署。
他们使用了自己内部更标准、更容易维护的方法。
普通的、对通信延迟不敏感的伺服器,这种接法完全没问题,属于为了可维护性做的小小牺牲,大家都可以容忍。
但是对大模型的使用场景来说,这一点小延迟就会被放大很多倍。
单点测试当然没问题,整机测试也没问题,因为问题出在伺服器间的通信。
紧接着,江松然的推断其实是对的,再给他一段时间,加上赵文渊的现场排查,他们应该也能查出来。
只是没有韩路一这么快罢了。
赵文渊看着两份图,脸色变得很难看。
他昨晚查了一整夜,什么GPU、驱动、配置、算子、服务、调度,全都查了,结果问题不在他能看到的任何软体层面。
而在机房布线。
还好韩总亲自来了,赵文渊心想。
与此同时,江松然则在视频那边咽了口口水一韩总他是怎么看出来的?他之前是不是连这个原始的网络拓扑图都没看过?
张彪这边,已经迅速叫现场的运维工程师过来,通过节点间测速确认了问题。
章节报错
请简要描述您遇到的问题(如:内容缺失、章节错乱、文字乱码等)