多领域创新合作,加速湖仓一体技术架构演进
2022-11-03 15:00:34AI云资讯1383
云原生、大数据、人工智能等新技术催生了越来越多的新应用,业务数据量的爆炸式增长以及业务处理高时效性的挑战,要求IT行业革新数据存储与分析处理能力,打通现有数据湖与数据仓库,将数据湖的灵活性与数据仓库的高效率优势融合起来,湖仓一体架构应运而生。
2022年10月28日,由中国信息通信研究院(以下简称“中国信通院”)主办,分布式存储产业方阵(DSIA)承办,中国移动、华为、浪潮、曙光、偶数科技和Alluxio等共同参与的“超能存”系列活动之湖仓专场在京举行。来自存储、计算、数据湖、数据仓库、数据服务多领域的伙伴齐聚一堂,从发展背景、典型场景、关键技术到实践案例,以全局视角共同探讨湖仓一体技术的应用落地和发展趋势。
中国信通院云大所副总工陈屹力在致辞中表示,当下企业海量数据场景下数据实时处理、非结构化数据治理的需求,以及企业根据应用类型、数据安全要求将不同数据和应用部署在多个数据中心或云上的多云建设趋势,都是推动数据湖与数据仓库融合的重要动力。迫切需要凝聚产业共识,协同产业界共同打破数据湖与数据仓库割裂的体系,促进湖仓一体产业健康发展,充分发掘海量数据要素的价值。
中国信通院云大所副总工陈屹力
“中国移动基于海量数据能力及丰富应用场景搭建了分布式协同计算平台,通过打造统一技术底座、统一汇聚全网数据、统一打造中台能力和统一内外业务运营开放,推进湖仓一体应用落地。”中国移动大数据平台部架构规划总监代莎在致辞中强调,“大数据是移动信息产业链中的重要子链,中国移动呼吁产业上下游持续加强技术合作和自主创新,一起推动大数据湖仓一体相关的国标/行标/团标标准制定、系统架构和应用示范落地,提升数据服务便捷性。”
来自湖仓一体产业链多领域伙伴通过此次深度探讨,充分凝聚了产业各界共识:湖仓一体是一种新型开放式架构,增强了实时业务处理以及非结构化数据的治理能力,充分结合数据湖和数据仓库的优势,在数据湖高性价比的存储架构之上,继承数据仓库高效的数据处理和管理功能。
湖仓一体架构底层支持多种数据类型并存可实现多种数据湖、数据仓库间数据的相互共享,上层通过统一封装的接口进行访问同时支持实时查询和分析。湖仓一体架构使得数据入湖后可原地进行数据处理加工,避免数据多份冗余以及流动导致的算力、网络及成本开销,可作为超大型的数据存储资源池,实现对全量数据的实时处理。
同时,湖仓一体技术面向多云提供数据共享能力,通过对接多云,构筑全局统一的数据视图,定义统一的数据格式和安全策略,即数据集中共享存储、应用部署在多云。同时,构建统一的数据访问加速引擎,让数据在不同的业务系统、平台和环境中更加可移植和高速共享访问。在企业多云趋势下,利用湖仓一体技术,可实现对分散、碎片化数据的统一访问和管理,提升数据访问便利性,加强企业各部门高效率的分工协作。
湖仓一体产业正在全方位发挥价值,期待产业各界共同加强关键核心技术攻关,将湖仓一体技术探索以及建设经验更广泛推广。发挥其高效数据处理以及经济节能的优势,更好支撑企业数据存储与分析的同时支持企业优化自身底层数据治理架构,从而帮助企业提升“人效”和“能效”,更精准地抓住商业机会,全面融入国家科技创新布局。
相关文章
- 百度沧海・存储团队研究成果入选计算机顶级学术会议SOSP'25
- 从“冷仓库”到“智能引擎”:存储如何在AI时代C位出道?
- “芯片老兵”英韧科技领跑创新马拉松,为全球存储注入“中国芯”动力
- 文档安全新方案:洋葱头浏览器助力企业零本地存储
- 华迅科技推出武迅WX-P3固态硬盘,自有工厂+国资背景助力国产存储
- Microchip推出Adaptec® SmartRAID 4300 系列加速器 提供安全的可扩展 NVMe® RAID 存储解决方案
- aigo发布疾速天花板闪存盘U453,重新定义移动存储效率标准
- 重新定义AI存储 威联通Qu系列实现自然语言交互NAS应用
- CCF存储系统测评发榜,浪潮存储全面领先!
- CCF中国存储大会 | 浪潮存储刘希猛:融合存储加快“人工智能+”行动落地
- 打破传统AI存储器性能和容量瓶颈:华为发布AI SSD系列新品
- 《2025存力发展报告》:我国存力规模达1680EB,国产存储介质、芯片、系统实现三级突破
- 霄云科技银河存储:重构AI时代的存储新范式
- 华瑞指数云发布AI原生数据平台WADP:统一的通用存储架构,重构AI时代数据基座
- 大模型推理成本居高不下,浪潮存储帮你来突围!
- 适配大疆 Osmo 360,雷克沙 SILVER PLUS micro SD 的存储优势