华为云重磅发布AI原生云基础设施架构CloudMatrix
2024-09-22 16:46:05爱云资讯2754
9月20日,在华为全联接大会2024上,华为云重磅发布AI原生云基础设施架构CloudMatrix,以满足AI时代企业对于算力的大规模、高效稳定、弹性灵活的需求。
华为云AI 原生云基础设施架构 CloudMatrix 正式发布
如今,AI算力需求高速增长,正在超越对通用算力的需求。构建弹性、高效的多元算力基础设施是AI发展的关键。
为了进一步提升AI原生基础设施的效能,华为云推出AI原生云基础设施CloudMatrix,将CPU、NPU、DPU、存储和内存等资源全部互联和池化,构建“一切可池化、一切皆对等、一切可组合”的分布式对等全互联架构,实现了单体算力向矩阵算力的演进,为客户提供澎湃的AI算力。
一切可池化:华为通过CPU、NPU为客户提供强大的通用计算和智能计算。同时,华为云分布式 QingTian技术帮助突破单服务器的能力边界,将服务器内的CPU、NPU、DPU、存储和内存等多样资源的统一池化并灵活配置,以此形成大规模、紧耦合的多元算力池化架构,算力得到大幅提升。
一切皆对等:CloudMatrix通过超高带宽ScaleUp网络从“传统以太网”向“共享总线以太网”演进,实现池化算力的高速互联,同时通过自适应拓扑感知打破集群线性度瓶颈。华为云在传统算力集群ScaleOut网络基础上,结合ScaleUp超高带宽网络,将资源互联带宽提升了一个数量级。新的网络协议实现跨物理服务器的统一标识、统一的访问和消息通信机制。从而实现CPU、NPU、存储 内存等多样资源的跨服务器统一池化。通过资源全部对等连接,既可以水平扩展,更可以垂直扩展,打破计算集群线性度的瓶颈,能够降大模型训练集群的线性度提升至95%,网络故障分钟级恢复。
一切可组合:CloudMatrix可以按需组合多样化算力资源,并且根据应用需求灵活调整。在统一多元算力逻辑池化、高速全对等互联的基础上,通过瑶光智能云脑对云上资源进行多元算力统一建模、灵活调度组合,按需提供给应用。覆盖大模型和小模型的训练和推理,同时,还能够用在数据分析、媒体内容生成等更多应用场景。
华为云宣布,基于CloudMatrix的新一代昇腾AI云服务将于年底上线。
相关文章
- 华为云北方首批超节点AI智算中心开服,新一代CloudMatrix 384昇腾AI云服务点亮“绿色引擎”
- 华为云香港伙理工大学签署合作备忘录
- HDC2025 | 华为云AI原生应用运行平台,打造应用运行“自动驾驶”全新体验
- 华为云五大案例入选中国信通院“2025政务大模型典型案例”
- 华为云重磅推出ROMA MCP,打造一站式MCP资产全生命周期管理解决方案
- 华为云:CloudMatrix384突破大模型训推瓶颈,加速行业智能化跃迁
- 华为云云商店打造制造引擎,共筑工业软件新生态
- HDC 2025:聚焦 AI-Native 安全,中国燃气携手华为云打造能源行业大模型安全标杆
- 华为云MaaS:用“三层五阶十二步”法,让AI落地不再走弯路
- 智象未来与华为云签署全面合作协议,共同探索人工智能落地应用创新典范
- 华为云助力企业基于盘古大模型打造专业大模型,引领行业智能化变革
- 微赞直播亮相华为云开发者大会,双轮驱动解锁私域直播新未来
- 解码气象预报「不可能三角」,华为云携手深圳气象局开辟AI算天新路径
- 算力赋能营销革新,东信云与华为云签约共建多模态大模型应用标杆
- 华为云CloudDevice亮相HDC 2025:以新一代云终端驱动行业智能应用创新
- 明源云亮相 HDC 2025,携手华为云共筑不动产数字化新未来