多领域创新合作,加速湖仓一体技术架构演进

2022-11-03 15:00:34爱云资讯阅读量:1165

云原生、大数据、人工智能等新技术催生了越来越多的新应用,业务数据量的爆炸式增长以及业务处理高时效性的挑战,要求IT行业革新数据存储与分析处理能力,打通现有数据湖与数据仓库,将数据湖的灵活性与数据仓库的高效率优势融合起来,湖仓一体架构应运而生。

2022年10月28日,由中国信息通信研究院(以下简称“中国信通院”)主办,分布式存储产业方阵(DSIA)承办,中国移动、华为、浪潮、曙光、偶数科技和Alluxio等共同参与的“超能存”系列活动之湖仓专场在京举行。来自存储、计算、数据湖、数据仓库、数据服务多领域的伙伴齐聚一堂,从发展背景、典型场景、关键技术到实践案例,以全局视角共同探讨湖仓一体技术的应用落地和发展趋势。

中国信通院云大所副总工陈屹力在致辞中表示,当下企业海量数据场景下数据实时处理、非结构化数据治理的需求,以及企业根据应用类型、数据安全要求将不同数据和应用部署在多个数据中心或云上的多云建设趋势,都是推动数据湖与数据仓库融合的重要动力。迫切需要凝聚产业共识,协同产业界共同打破数据湖与数据仓库割裂的体系,促进湖仓一体产业健康发展,充分发掘海量数据要素的价值。

中国信通院云大所副总工陈屹力

“中国移动基于海量数据能力及丰富应用场景搭建了分布式协同计算平台,通过打造统一技术底座、统一汇聚全网数据、统一打造中台能力和统一内外业务运营开放,推进湖仓一体应用落地。”中国移动大数据平台部架构规划总监代莎在致辞中强调,“大数据是移动信息产业链中的重要子链,中国移动呼吁产业上下游持续加强技术合作和自主创新,一起推动大数据湖仓一体相关的国标/行标/团标标准制定、系统架构和应用示范落地,提升数据服务便捷性。”

来自湖仓一体产业链多领域伙伴通过此次深度探讨,充分凝聚了产业各界共识:湖仓一体是一种新型开放式架构,增强了实时业务处理以及非结构化数据的治理能力,充分结合数据湖和数据仓库的优势,在数据湖高性价比的存储架构之上,继承数据仓库高效的数据处理和管理功能。

湖仓一体架构底层支持多种数据类型并存可实现多种数据湖、数据仓库间数据的相互共享,上层通过统一封装的接口进行访问同时支持实时查询和分析。湖仓一体架构使得数据入湖后可原地进行数据处理加工,避免数据多份冗余以及流动导致的算力、网络及成本开销,可作为超大型的数据存储资源池,实现对全量数据的实时处理。

同时,湖仓一体技术面向多云提供数据共享能力,通过对接多云,构筑全局统一的数据视图,定义统一的数据格式和安全策略,即数据集中共享存储、应用部署在多云。同时,构建统一的数据访问加速引擎,让数据在不同的业务系统、平台和环境中更加可移植和高速共享访问。在企业多云趋势下,利用湖仓一体技术,可实现对分散、碎片化数据的统一访问和管理,提升数据访问便利性,加强企业各部门高效率的分工协作。

湖仓一体产业正在全方位发挥价值,期待产业各界共同加强关键核心技术攻关,将湖仓一体技术探索以及建设经验更广泛推广。发挥其高效数据处理以及经济节能的优势,更好支撑企业数据存储与分析的同时支持企业优化自身底层数据治理架构,从而帮助企业提升“人效”和“能效”,更精准地抓住商业机会,全面融入国家科技创新布局。

相关文章
热门文章
头条文章
重点文章
推荐文章
热点文章
关于我们|联系我们|免责声明|会展频道
冀ICP备2022007386号-1 冀公网安备 13108202000871号 爱云资讯 Copyright©2018-2023