超算需求倒逼“架构”变革 ,华为分布式存储加注HPDA赛道
2021-09-25 10:46:31AI云资讯1308
数据存储作为科技强国的关键基础设施,在当前大型超算中心、新型油气勘探、基因测序、自动驾驶、气象预测、宇宙探索等领域发挥着重要作用,同时也是高性能计算(HPC)领域数据应用和数据分析的重要支撑平台。
华为在“重投”数字基础设施的同时,也将这一领域视为数字赛道发展的重要方向。

9月24日,在华为全联接大会的第二天下午,华为常务董事、ICT产品与解决方案总裁汪涛发布了多款数字基础设施相关技术,其中包括了业界首个面向高性能数据分析(HPDA)的分布式存储OceanStor Pacific。在华为看来,高性能数据分析的大时代正在来临。
“HPDA是超算领域正在发生的一个重要趋势,智能世界的加速到来,让AI、大数据技术也正在加速和HPC超算技术产生深度融合。”华为海量存储领域总裁王怡东在采访中对记者表示,数据密集型应用的爆发正在让高性能计算系统从以算力为中心逐步转变为以数据为中心。
根据华为官方微博显示,在今年7月国际超算大会最新一期IO500排行榜中,基于华为AI基础软硬件的“鹏城云脑II”超级计算机再次刷新世界纪录,蝉联全系统输入输出和10节点规模系统两项世界冠军。而在2021年国际超算大会(ISC)公布的最新的TOP500榜单中,其中有342套系统采用了AI相关的加速技术,TOP10无一例外都采用了AI相关的算力。
随着AI和大数据的技术发展,越来越多HPC应用借助AI和大数据技术深度挖掘数据背后的价值,使得数据分析量急速增加。
根据全球HPC市场研究机构Hyperion Research预测,2019年到2024年基于AI和大数据的HPC存储的复合年增长率超过17%,远远超过服务器6.9%的复合年增长率,到2024年,HPC市场将有超过40%来自数据密集型超算。
“多样化算力会带来多样化业务负载,这就好比一个跑100M的短跑运动员顶多可以多跑一下200M和400M,但是基本没办法兼顾10000M长跑项目。为了解决这个问题,业界通常采用不同类型的存储来应对。”王怡东对记者表示,新的超算架构要求打破内存墙、协议墙的双重限制,多样算力直接按需加载到存储系统,华为为了减少算力之间数据搬移,提高分布式算力并行处理效率,将重点放在了存储的架构创新上。
经过了多次技术迭代,王怡东对记者表示,华为在最新方案上采用了“融合非结构化数据索引”的创新技术架构,也就是说,华为分布式存储可以原生支持文件、对象以及大数据协议。所谓原生协议支持,就好比一个人的母语就有三种,可以随意在不同的语境中切换,实现沟通交流效率的最优。而传统意义上,一般存储的"母语"只有一种,只能通过网关这种翻译来实现协议之间的对话。必然会带来语义或者性能上的损失。因此,通过架构创新可以实现分析效率的提升。
同时,这种技术不仅能被使用在政府超算领域。在HC大会现场,汪涛表示,目前,除了超算中心领域,华为OceanStor Pacific已在能源勘探、气象预测以及基因检测等多个商用超算领域成功落地。
比如,在全球SKA天文望远镜阵列中,上海天文台与华为合作,搭建了世界首台SKA区域中心原型机核心业务存储系统。而在油气勘探领域,华为与中石油东方物探也已完成了单体数据量最大的油气地震勘探数据处理项目。
“数字基础设施既面临新挑战,也迎来属于海量存储的大时代。”王怡东对记者表示,到2025年,新增数据量是180ZB,其中超过80%是非结构化存储,而其中仅仅2%的数据被储存,仅仅10%的数据被分析,随着应用场景的逐步打开,高性能数据分析将会迎来更大的发展空间。
相关文章
- 超算互联网推出限时免费DeepSeek-V4对话服务 零门槛解锁百万Token体验
- DeepSeek-V4 上线国家超算互联网:以普惠算力与开发者共逐AI新浪潮
- 用户突破120万,国家超算互联网持续践行“普惠算力赋能中小企业发展”
- 加速科研范式变革,超算互联网加入AGI4S算力共建计划
- 加速科研范式变革,超算互联网加入“AGI4S算力共建计划”
- 技嘉 AI TOP ATOM 登陆京东,携手趋境科技打造“开箱即用”本地AI超算
- 送1000万Tokens+0.1元/百万Tokens,超算互联网推动OpenClaw走向普惠
- 在超算互联网也能“养龙虾”了!一分钟速通OpenClaw部署
- 春晚扎堆亮“超算”!国家超算互联网合肥、宜昌节点登上央视、宜昌春晚
- 国家超算互联网核心节点上线试运行,托举中国AI算力应用关键一跃!
- 罗格科技发布国产异构计算平台“超算智能体“,撬动AI智能体专业服务千亿级市场
- 玻色量子不断中标!引领量超融合!国内首台部署国家超算中心的专用量子计算机
- 罗拉超算体抢滩登录,引领财税服务新范式
- 东方超算Deep X G20发布:重新定义企业级AI算力经济模型——4万元实现百万级算力,中小企业AI转型门槛直降90%
- 官网&京东同步发售!联想ThinkStation PGX 桌面AI超算工作站正式来袭
- AI能力官方认可!合思入选超算互联网《人工智能生态产业图谱》
人工智能企业
更多>>人工智能硬件
更多>>人工智能产业
更多>>人工智能技术
更多>>- 高德发布鸿蒙首个生成式 UI 开源框架 AGenUI,告别传统 UI 开发模式
- 发布即适配| 天数智芯全力支持腾讯混元Hy3 preview 开源落地,共推国内大模型产业普惠
- Seedance 2.0面向企业公测,豆包大模型日均Token使用量突破120万亿
- 端到端OCR模型第一!百度千帆Qianfan-OCR正式发布
- 云知声Unisound U1-OCR大模型发布!首个工业级文档智能基础大模型,开启OCR 3.0时代
- 基石智算上线 MiniMax M2.5,超强编程与智能体工具调用能力
- 昇腾原生支持,科学多模态大模型Intern-S1-Pro正式发布并开源
- 百度千帆深度研究Agent登顶权威评测榜单DeepResearch Bench









