远程算力延迟高？空心光纤破局，智算传输提速神器

大模型训练一旦开始运行就得耗费几十个小时的时间, 数据需要在异地算力中心之间进行来回传输, 这种等待状态让企业急得直接拍桌子。在宁夏中卫这个地方目前正在使用一套组合拳的方式把这个瓶颈撕开。

算力排队比训练还慢

刘兴裕作为一家从事算力业务的企业里面的工程师, 他所面对的最为令人担忧的情况, 并不是模型本身的问题, 而是当完成了对某一个检查点数据的训练之后, 还需要把相关的数据从距离比较远的异地进行传输回来, 仅仅依靠物理性的传输这一个环节, 就已经需要消耗掉好几个小时的时间了。

由于传统意义上的光纤所能够提供的带宽资源是有限的, 所以在数据排队的现象变得越来越严重的时候, 整个训练的周期就会直接被拉长至原来的两倍之多, 从而导致相关的成本全部都停滞在了等待的这个阶段里面。

入驻了中卫的那部分算力企业, 现在数量还在持续不断地增加。对于AI推理请求来讲, 对时延这方面的要求是非常极客苛的, 就算是毫秒级别的波动, 也会影响到用户体验。老一代的通信架构, 里面的带宽已经被跑满了, 数据在节点之间拥堵得像是锅粥一样。扩容的速度, 根本追不上需求的爆炸式增长。

空心光纤把时延砍了三成

李小平在中移宁夏这边负责搞算力网络规划的事情, 他还心里盘算过一笔账目, 那个空心光纤跟传统实心光缆对比的话, 传输过程中的损耗以及时延方面, 是直接就把比例降低了超过百分之三十的这些数值的, 就目前这个技术发展状态来看, 这项技术目前已经实际运行在相距有三十公里远的那两座数据中心之间了, 数据过去那速度几乎就有点像是瞬移一样的感觉。

这三个指标, 也就是超低时延, 还有超低损耗, 以及超大带宽, 它们同时都在最高水平上进行拉满式的表现, 这个情况意味着在大模型展开多机联合训练的过程当中, 梯度同步这一环节不再会成为制约发展、让人卡脖子的难题, 于是乎, 仅仅凭借一张算力网络这一个东西, 就可以把那些分散开的计算资源巧妙地缝合成为一个完整的整体, 使得整个训练的工作效率, 非常直接地迈上一个新的更高的台阶。

闲置算力变成公共货架

雍旭龙在宁夏电信从事算力运营开发工作, 他所搭建的调度平台将来自中卫各个算力中心的零散闲置资源全部汇总在一起, 从而实现了面向全国客户开放的调用服务, 使得客户只要登录该平台就可以租赁到那些处于闲置状态的算力资源, 这让资源的利用率一下子就被提升到了最高点。

那个租用的模式, 它的灵活性, 也真的是非常的够, 你, 只需要下单的时候, 是一台服务器, 或者是两张显卡, 甚至是只有一张显卡, 都是可以下的, 那个时长的设置, 最短的时间, 可以是一小时, 最长的时间, 也能够达到一个月之久的那些程度, 那些中小企业们, 再也不用, 再去为了去买不起整间机房的事情, 犯那种难处, 他们是按照那个需要去取用那些资源的, 那个成本直接就是降低了, 一个量级的多少了。

数据中心盖太快变电站跟不上

在段立管所在的移宁夏算力运营领域, 他提供了一组对比数据。以前建造一栋数据中心, 从开工到交付需要花费一年半到两年的时间。而现在采用全钢架加模块化安装的方式, 只需要四个半月至五个月就能投入使用了。不过配套变电站从审批到建成, 依然需要花费一年半的时间。

随着算力中心的集中开工建设, 电力保障变成了真正的硬性瓶颈。李俊在国网中卫从事发展策划工作, 他表示, 目前本地同类型在建的变电站一共有4座, 电网方面会提前进行规划并展开施工动土, 这样做的原因就是为了能够赶上算力不断扩张所达到的那种节奏。

阶梯供电和绿电直供一起上

殷占贵他是在国网中卫那里, 负责做那种业扩管控的工作, 他就发现了一个事情, 就是几乎所有的算力企业, 它们都需要配备那些最高等级的电力设施的, 但是这事儿的情况是, 这些设施在刚建成的时候, 其负荷是非常低的, 这就好像是那种大马拉小车的状况一样的, 所以他给出的解决办法, 就是采用一种阶梯式供电的那种方式来处理的, 具体来说,就是在初期阶段使用那些低电压等级的电力供应的, 然后, 等那个负荷它一点一点地向上增长起来以后, 再将其切换到高电压的状态去的。

更为关键的一个步骤就是绿电的直供方式。中卫这个地方已经建立了全国范围内第一个大规模的算电协同作用的光伏电站, 光伏这些板子是直接朝着算力中心来进行发电活动的。

相关的系统会预估当天里面算力的具体任务量, 然后再根据风和光的发电变化波动来对储能设备进行动态的调度安排, 这样做最终是把绿色电力的消纳率提升到了全国前面那个靠前的位置水平。

三张网拧成一股绳靠什么

马振钧在中卫市数据局担任副局长, 他明确表示, 电力设施、水利工程以及网络建设各自拥有不同的发展节奏, 只要其中一个环节出现阻滞现象, 整个园区的运作就会处于停滞状态。

六月份刚刚编制完成的关于算力园区的发展规划方案, 其包含的闲置土地面积还没有超过两个月的时间, 就已经被相关企业全部预订完毕, 使得相关的配套设施建设工作根本来不及同步开展。

孟凡振是在数据局里面担任科长那个职务, 所以会有许多企业来排队办理相关事务。其中那一份问题清单是涵盖了土地部门、供电部门以及基建部门这几个方面内容的。如果单独去跑任何一个部门, 那么进度都是非常缓慢的。

中卫的做法是把有关的那些部门人员和企业方代表全都聚集在了一张桌子上面在一起工作。他们会确定各自的任务内容, 会明确必须完成的工作节点, 还会规定具体的时限要求。正是通过这种方式进行协调, 那三张网建设的整体节奏这才真正地实现了对接和统一。

你个人觉得, 让三张网协同起来发展, 最大的阻碍究竟是因为审批流程的问题, 还是因为资金不够充足呢? 欢迎你在下面的评论区参与讨论互动。如果你认为这个观点是靠谱的、有用的话, 请点击点赞按钮进行鼓励, 并且把它转发给身边同样从事这行工作的同行人员看看。