微软开源大规模数据处理项目 Data Accelerator
2019-04-23 10:44:23爱云资讯1504
微软开源了一个原为内部使用的大规模数据处理项目 Data Accelerator。自 2017 年开发以来,该项目已经大规模应用在各种微软产品工作管道上。
据微软官方开源博客介绍,Data Accelerator 的一些方法可以更容易地在 Apache Spark 上构建流式传输管道:
- 即插即用:轻松设置输入源和输出接收器,以便在几分钟内建立管道。Data Accelerator 支持从 Eventhub 和 IoThub 取数据,并支持将数据下载到 Azure blob、CosmosDB、Eventhub 等。
- 无代码体验:无需编写任何代码即可设置警报和数据处理。通过规则设计器体验,您可以指定简单和聚合的数据处理,标记和警报。
- SQL 查询:在 SQL 中编写复杂的处理——无需在 Scala 中工作。内置的可扩展性模型还支持用户定义的函数并利用 Azure 功能,例如,用于 ML 中流。
- 实时查询:通过针对传入数据样本运行,在几秒钟内验证您的查询,从而节省设置和测试管道处理的工作时间。
Data Accelerator 不仅仅是 EventHub 和数据库之间的管道。它允许用户在继续流式传输的同时重塑传入的事件,然后将同一事件的不同部分路由到不同的数据存储,同时提供健康监控和整个管道状态的警报。
Data Accelerator 还提供配置 UI 和规则/查询设计器体验,使用户无需编写任何代码即可启动和运行。
此外,任何进行流数据处理的人通常都需要使用滑动窗口处理数据,或处理延迟到达数据,或者随时间累积数据。Data Accelerator 支持并简化了这些高级功能的使用。
最后,微软提到,Data Accelerator 支援 dev-test 循环的快速验证周期,其中查询针对本地采样的事件运行在部署之前就能迭代修正到可用,这可以节省大量测试工作管道处理的时间。
相关文章
- Arm 携手微软赋能开发者创新,共筑云计算和 PC 未来
- 微软2025营销峰会:AI驱动广告创新,赋能中国品牌价值跃升
- Arm 与微软合作,为基于 Arm 架构的 PC 和移动设备应用提供超强 AI 体验
- 微软宣布将向Edge浏览器的网页应用开放设备端AI模型
- 微软在Windows 11系统测试“嘿,Copilot!”语音唤醒功能
- 微软启动裁员计划 占全球员工总数3%约6000人
- 声网对话式AI引擎摘得微软开发者挑战赛“最具商业价值奖”
- 微软张祺:微软迎来50周年,回望初心,砥砺前行!
- 微软即将正式推出Recall功能
- 微软50周年之际:Copilot迎来重大更新
- 微软2025年度Xbox游戏发布会将于6月举行
- 微软计划独立开发人工智能模型以减少对OpenAI的依赖
- 微软转身ToDesk亮剑:Windows用户终于等到远控的终极形态
- 微软推出具备深度推理能力的Copilot人工智能助手
- 微软将推出游戏版Copilot,充当人工智能游戏教练
- 亚马逊首款量子计算芯片Ocelot亮相,微软/谷歌/微美全息竞逐加速量子行业成熟