Cascading:创建复杂和容错数据处理工作流

开发 前端
Cascading 是一个架构在Hadoop上的API,用来创建复杂和容错数据处理工作流。它抽象了集群拓扑结构和配置来快速开发复杂分布式的应用,而不用考虑背后的 MapReduce。Cascading目前依赖于Hadoop提供存储和执行架构,但是Cascading API为开发者隔离了Hadoop的技术细节,提供了不需要改变初始流程工作流定义就可以在不同的计算框架内运行的能力

架构

Cascading 是一个架构在Hadoop上的API,用来创建复杂和容错数据处理工作流。它抽象了集群拓扑结构和配置来快速开发复杂分布式的应用,而不用考虑背后的 MapReduce。Cascading目前依赖于Hadoop提供存储和执行架构,但是Cascading API为开发者隔离了Hadoop的技术细节,提供了不需要改变初始流程工作流定义就可以在不同的计算框架内运行的能力

Cascading目前依赖于Hadoop提供存储和执行架构,但是Cascading API为开发者隔离了Hadoop的技术细节,提供了不需要改变初始流程工作流定义就可以在不同的计算框架内运行的能力。

Cascading使用了“pipe and filters”(管道和过滤)来定义数据处理进程。它支持分隔,合并,分组和排序操作,这是开发者唯一需要考虑的操作。Nathan Marz提供了一个范例:Goodbye MapReduce, Hello Cascading. Cascading对于使用Hadoop开发复杂应用是一个不错的解决方案。

发展

Hadoop是Apache开源组织的一个分布式计算开源框架,在很多大型网站上都已经得到了应用,如亚马逊、Facebook和Yahoo等等。它主要由MapReduce的算法执行和一个分布式的文件系统HDFS等两部分组成。

HDFS:即Hadoop Distributed File System (Hadoop分布式文件系统)

HDFS具有高容错性,并且可以被部署在低价的硬件设备之上。HDFS很适合那些有大数据集的应用,并且提供了对数据读写的高吞吐率。

延伸

MapReduce:MapReduce 是Google 的一项重要技术,它是一个编程模型,用以进行大数据量的计算。对于大数据量的计算,通常采用的处理手法就是并行计算。至少现阶段而言,对许多开发人员来 说,并行计算还是一个比较遥远的东西。MapReduce就是一种简化并行计算的编程模型,它让那些没有多少并行计算经验的开发人员也可以开发并行应用。

 

 

 

 

责任编辑:陈四芳 来源: 51CTO
相关推荐

2011-05-25 17:04:41

ibmdwLotus

2022-10-26 08:00:43

Activiti工作流BPM

2009-07-31 17:34:40

ASP.NET工作流

2021-10-14 11:34:05

技术工作流引擎

2020-07-22 08:13:22

大数据

2024-04-25 08:00:00

DevOps架构软件开发

2013-04-23 10:28:08

IBeamMDAAWF

2015-09-21 16:08:51

大数据存储HCC2015华为

2009-03-03 09:13:36

工作流BPM业务流程

2012-07-23 10:36:46

工作流

2010-01-04 17:42:50

SilverLight

2023-01-04 08:02:16

工作流架构设计

2011-12-14 09:58:58

JavajBPM

2023-07-05 09:48:44

Activiti部署

2021-12-02 09:36:23

大数据工具数据分析

2021-12-01 23:16:44

工具数据处理

2023-09-26 09:29:08

Java数据

2021-07-26 18:38:48

Bpmn流程

2022-02-09 15:23:41

大数据流计算Spark
点赞
收藏

51CTO技术栈公众号