超算需求倒逼“架构”变革 ,华为分布式存储加注HPDA赛道
2021-09-25 10:46:31AI云资讯1235
数据存储作为科技强国的关键基础设施,在当前大型超算中心、新型油气勘探、基因测序、自动驾驶、气象预测、宇宙探索等领域发挥着重要作用,同时也是高性能计算(HPC)领域数据应用和数据分析的重要支撑平台。
华为在“重投”数字基础设施的同时,也将这一领域视为数字赛道发展的重要方向。
9月24日,在华为全联接大会的第二天下午,华为常务董事、ICT产品与解决方案总裁汪涛发布了多款数字基础设施相关技术,其中包括了业界首个面向高性能数据分析(HPDA)的分布式存储OceanStor Pacific。在华为看来,高性能数据分析的大时代正在来临。
“HPDA是超算领域正在发生的一个重要趋势,智能世界的加速到来,让AI、大数据技术也正在加速和HPC超算技术产生深度融合。”华为海量存储领域总裁王怡东在采访中对记者表示,数据密集型应用的爆发正在让高性能计算系统从以算力为中心逐步转变为以数据为中心。
根据华为官方微博显示,在今年7月国际超算大会最新一期IO500排行榜中,基于华为AI基础软硬件的“鹏城云脑II”超级计算机再次刷新世界纪录,蝉联全系统输入输出和10节点规模系统两项世界冠军。而在2021年国际超算大会(ISC)公布的最新的TOP500榜单中,其中有342套系统采用了AI相关的加速技术,TOP10无一例外都采用了AI相关的算力。
随着AI和大数据的技术发展,越来越多HPC应用借助AI和大数据技术深度挖掘数据背后的价值,使得数据分析量急速增加。
根据全球HPC市场研究机构Hyperion Research预测,2019年到2024年基于AI和大数据的HPC存储的复合年增长率超过17%,远远超过服务器6.9%的复合年增长率,到2024年,HPC市场将有超过40%来自数据密集型超算。
“多样化算力会带来多样化业务负载,这就好比一个跑100M的短跑运动员顶多可以多跑一下200M和400M,但是基本没办法兼顾10000M长跑项目。为了解决这个问题,业界通常采用不同类型的存储来应对。”王怡东对记者表示,新的超算架构要求打破内存墙、协议墙的双重限制,多样算力直接按需加载到存储系统,华为为了减少算力之间数据搬移,提高分布式算力并行处理效率,将重点放在了存储的架构创新上。
经过了多次技术迭代,王怡东对记者表示,华为在最新方案上采用了“融合非结构化数据索引”的创新技术架构,也就是说,华为分布式存储可以原生支持文件、对象以及大数据协议。所谓原生协议支持,就好比一个人的母语就有三种,可以随意在不同的语境中切换,实现沟通交流效率的最优。而传统意义上,一般存储的"母语"只有一种,只能通过网关这种翻译来实现协议之间的对话。必然会带来语义或者性能上的损失。因此,通过架构创新可以实现分析效率的提升。
同时,这种技术不仅能被使用在政府超算领域。在HC大会现场,汪涛表示,目前,除了超算中心领域,华为OceanStor Pacific已在能源勘探、气象预测以及基因检测等多个商用超算领域成功落地。
比如,在全球SKA天文望远镜阵列中,上海天文台与华为合作,搭建了世界首台SKA区域中心原型机核心业务存储系统。而在油气勘探领域,华为与中石油东方物探也已完成了单体数据量最大的油气地震勘探数据处理项目。
“数字基础设施既面临新挑战,也迎来属于海量存储的大时代。”王怡东对记者表示,到2025年,新增数据量是180ZB,其中超过80%是非结构化存储,而其中仅仅2%的数据被储存,仅仅10%的数据被分析,随着应用场景的逐步打开,高性能数据分析将会迎来更大的发展空间。
相关文章
- 东方超算Deep X G20发布:重新定义企业级AI算力经济模型——4万元实现百万级算力,中小企业AI转型门槛直降90%
- 官网&京东同步发售!联想ThinkStation PGX 桌面AI超算工作站正式来袭
- AI能力官方认可!合思入选超算互联网《人工智能生态产业图谱》
- SEAVIV希未 AideaStation R1 AI算力中心,定义下一代桌面超算新标准
- 以一体化算网驱动技术变革,业内专家共话超算互联网
- 一体化算网建设再提速,七城算力中心接入国家超算互联网
- 便携式AI突破:DFRobot LattePanda Mu 助力泛灵人工智能RM-01实现“公文包里的超算”
- 东方超算全新发布MCP服务,与全球领先技术协议“接轨”
- 上线一年,国家超算互联网交出“高质量增长”答卷
- 科研效率大幅提升!超算互联网助深势科技加速AI4S创新
- 专业团队护航企业级部署开发!超算互联网上线DeepSeek系列模型
- 实现高可信AI环境, 国家超算互联网上线DeepSeek系列模型
- 国家超算长沙中心联合加佳科技赋能教育出版创新发展
- 云知声 Atlas 超算平台入选《分布式统一大数据虚拟文件系统Alluxio原理、技术与实践》
- 谷歌发布突破性量子计算芯片Willow:五分钟完成超算10的25次方年的计算
- “智算+超算”一套平台搞定!青云科技助力教学科研效率 10 倍提升









