移动云主导的IETF国际标准发布, 助AI大模型突破通信瓶颈

2025-07-02 16:51:49爱云资讯896

近日,移动云主导制定的IETF国际标准RFC9793《BGPExtensionsforBitIndexExplicitReplication(BIER)》正式发布,该标准针对主流的MoE(MixtureofExperts)架构AI大模型的专家并行All-to-All通信瓶颈问题提供了高效解决方案,为AI大模型的高效训练和推理提供了坚实的保障。这一突破性成果标志着移动云的技术创新实力获国际权威认可,彰显了中国在全球互联网标准体系建设中的重要话语权。

突破瓶颈:高效组播赋能MoE架构

在人工智能迈向万亿参数大模型时代的关键进程中,MoE架构凭借其优异的性能表现,成为主流AI模型的基石架构。然而,在MoE大模型的训练与推理环节,专家并行所需的All-to-All通信对网络带宽提出了极为苛刻的要求,特别是在超节点的scale-up网络中,传统的通信模式难以满足需求,成为制约AI大模型进一步发展的一大痛点。

移动云主导制定的高效组播方案,凭借独特的无状态组播特性,可实现AI大模型门控路由器的实时灵活指定,并具备在数据报文中携带组播接收者列表的能力,无需依赖复杂耗时的组播树建立过程。这一特性与MoE大模型的门控路由器根据专家实时负载水平等因素为每个Token动态选择对应的TopN专家的机制完美契合。通过上述创新技术方案,可以大幅提升All-to-All通信效率,有效提升AI大模型训练与推理的效率和性能。

标准筑基:推动AI技术普惠化落地

在云智算战略深化落地的背景下,AI大模型的训练与推理的效率和性能成为产业发展的核心竞争力。本次由移动云主导制定的IETF国际标准,为解决MoE架构AI大模型关键通信瓶颈问题提供了国际通用技术规范,并有望应用于AI超节点产品,提升MoE架构大模型的训练以及推理的通信效率,有效降低大模型训练和推理成本,助力AI技术在千行百业的标准化、普惠化应用。

未来,移动云将继续发挥技术优势,加强AI大模型等前沿技术领域的自主创新,让中国主导的国际标准成为AI和云计算基础设施高质量发展的技术基石,持续赋能各行业的数字化转型。

相关文章

人工智能技术

更多>>

人工智能公司

更多>>

人工智能硬件

更多>>

人工智能产业

更多>>
关于我们|联系我们|免责声明|会展频道

冀ICP备2022007386号-1 冀公网安备 13108202000871号

爱云资讯 Copyright©2018-2024