使能算力:锐捷网络发布AIGC智算中心网络整体方案
2023-09-18 09:52:50爱云资讯
9月13日至14日,2023开放数据中心大会在北京市隆重开幕。锐捷网络在网络分论坛上发布了AIGC智算中心网络整体方案,为AIGC大模型的发展提供了全方位的网络解法。
大模型发展趋势以及网络通信诉求
随着AIGC技术赋能产业持续升级,业务对大模型的需求也日益旺盛,更多的训练参数量以及更高的算力成为大语言模型的迭代目标。为了支撑多元化的行业应用,数据中心需要更大规模的集群来承载大语言模型的分布式训练。大语言模型运算效率与网络转发带宽存在密不可分的联系,网络带宽接入能力与网络带宽利用率是影响GPU利用率的关键指标。
基于以上需求和痛点,锐捷网络解决方案经理刘洋在2023开放数据中心大会(ODCC 2023)上,通过主题演讲《面向AIGC的智算中心网络建设思考》,阐述了AIGC大模型的发展趋势及关键诉求,正式发布了AIGC智算中心网络整体方案。方案采用统一标准化的以太网络技术,具体提出两种AIGC智算中心网络解决方案。
锐捷网络解决方案经理刘洋
现场观众
高性能以太网络解决方案
高性能以太网络解决方案通过三级组网的方式可以满足3.2万个400G端口接入需求,支撑32K块GPU卡的集群规模。在网络性能层面,部署实施时关注RDMA无损网络中PFC、ECN等水线的设置,进行负载均衡模式及算法优化提升网络的带宽利用率(详细技术可参考文章《解决数据中心网络拥塞,锐捷RALB负载均衡技术助力高效数据传输》)。运维优化阶段,该方案强调对网络关键指标的实时监控,应用智能运维平台根据现网状况进行动态调整以实现更佳的网络性能,该解决方案已获得市场的广泛认可。
高性能以太网络解决方案
网络宽带接入层面,锐捷网络RG-S6980-64QC数据中心交换机支持64*400G通信端口,可以同时应用在TOR、Leaf、Spine三个层级,该设备已经批量交付了很多互联网的客户。
数据中心盒式核心交换机RG-S6980-64QC
AI-Fabric智算中心网络解决方案
AI-Fabric智算中心网络解决方案是锐捷网络针对AIGC业务场景发布的另一套解决方案。采用NCP+NCF为基础模块横向扩展的三级网络架构,可以支撑17K~32K的大规模GPU卡集群。基于高性能芯片技术,通过将数据流切分成等长的Cell并负载到所有链路,提升网络带宽利用率;基于VOQ+Credit的端到端流控机制实现与业务无关的无损自闭环网络,助力业务算力提升。(详细技术可参考文章《锐捷网络高性能网络方案,为AIGC打通“任督二脉”》)
AI-Fabric方案组网架构
网络宽带接入层面,AI-Fabric智算中心网络解决方案由400G NCP交换机和200G NCF交换机组成。NCP设备为RG-S6930-18QC40F1,支持18口400G的业务口,并支持40口200G的Fabric内联口。NCF设备为RG-X56-96F1,支持96口200G的Fabric内联口。该解决方案可满足不同业务需求,具有可扩展性和灵活性。
AI-Fabric 400G高带宽产品接入方案
在全球互联网流量不断增长和数据应用需求日益多样化的背景下,锐捷网络致力于推动网络技术的进步和发展,AIGC智算中心网络整体方案的推出正是其不断探索和创新的有力证明。通过持续的技术研发和产品创新,锐捷网络将继续为全球的数据中心提供更加高效、可靠、智能的网络解决方案,在AIGC时代,助力互联网企业及各行各业的快速发展。
- 研发投入持续加大,锐捷网络蓄能谋远,把握数字经济浪潮
- 锐捷网络入选中国信通院“铸基计划”高质量数字化转型案例
- 智慧校园新风向:锐捷网络联手北京联合大学管理学院打造创新实验室!
- 锐捷网络受邀亮相第十三届中国城市商业银行信息化发展创新座谈会
- 锐捷网络亮相2023全国CIO大会 荣膺“2023年度CIO信赖品牌”称号
- 亮相数字峰会|锐捷网络以硬核实力构筑数字经济发展底座
- 锐捷网络年报首秀:数字经济浪潮激发澎湃活力,业绩持续稳健增长
- 解放高算力 | 锐捷网络携液冷交换机亮相液冷论坛
- 开放创想 聚力未来 南开大学与锐捷网络达成身份中台联合开发战略合作 助推高校数字化转型
- “网络设备龙头”锐捷网络今日登陆深交所创业板
- 构筑数字经济坚实底座|锐捷网络携创新成果亮相2022数博会
- ICT基础设施龙头锐捷网络即将登陆A股,冲刺数字经济黄金时代
- 锐捷网络极简以太全光解决方案荣获iF设计奖 全光网交换机内外兼修实力“出圈”
- 锐捷网络发布“数字原力觉醒计划” 软硬实力助力企业悦享数字转型
- 锐捷网络交换机夺得2021全年教育行业市场第一,用全光创造智慧校园的更多可能
- 锐捷网络:云网融合,效率变革,锐捷 WIS 云管理网络重磅发布!