MongoDB升级Hadoop连接器 新增Hive支持

数据库 其他数据库 Hadoop MongoDB
也许很多人没有发现,MongoDB和Hadoop在过去几年里已经变得非常流行。MongoDB之所以成为很多网络和移动应用的业务数据库,是因为它支持JSON文件类型;Hadoop也成为很多公司大数据处理和分析的平台,尤其是大型网络公司和财富500强企业。

拥有MongoDB的大数据创业公司10gen日前宣布升级Hadoop连接器的版本,新增了很多重要的功能。其中包括对Hive(Hadoop的类SQL查询语言)的支持和Hadoop对本地MongoDB文件的存储能力,以及在同一MongoDB数据集运行增量MapReduce作业的能力。

据10gen产品营销总监Kelly Stirman介绍,MongoDB的Hadoop连接器已经发布一段时间了,应用也十分广泛。上周二(8月20日)的升级是自2012年4月Hadoop连接器正式发布以来最重要的一次更新。

也许很多人没有发现,MongoDB和Hadoop在过去几年里已经变得非常流行。MongoDB之所以成为很多网络和移动应用的业务数据库,是因为它支持JSON文件类型;Hadoop也成为很多公司大数据处理和分析的平台,尤其是大型网络公司和财富500强企业。Kelly Stirman称这两种技术往往同时部署在企业中。

MongoDB升级Hadoop连接器 新增Hive支持
上图的右侧部分目前已加入Hive

Kelly Stirman 补充道,MongoDB连接器目前已经很受欢迎,因为它实际上是让用户在MongoDB数据库中处理数据,而不是把数据传送到Hadoop中进行处理。在现有的对MapReduce和Pig的支持的基础之上新增了对Hive的支持,能够让MongoDB更受欢迎。因为Hive拥有类SQL查询语言的本质,通过这种连接器的方式可以使公司更好的利用Hadoop中的数据。数据库创新公司Drawn to Scale也曾增加过一个类似的功能——基于MongoDB数据的SQL查询(SQL queries on MongoDB data)——但在今年初夏时,该公司已经倒闭。

在Hadoop分布式文件系统(HDFS)中新增对MongoDB本地BSON文件的支持,意味着用户可以将数据库文件备份到Hadoop中,同时可以在Hadoop里处理这些数据,避免在MongoDB集群中增加回撤的负载。

Kelly Stirman将MongoDB集合上运行增量MapReduce更新的能力称为“浓缩处理”。在这之前,用户只能运行存储在数据库全新集合中的 MapReduce作业。这一名为“MongoUpdateWriteable”的新功能,能够让用户在现有集合中运行MapReduce作业。这种快捷的方式能够捕捉MongoDB集合每天的变化,而不是在每次运行MapReduce作业时都对比输出的变化或者查询新的集合。

数据库行业专家可能会质疑这些特性仅仅是改善现有MongoDB-Hadoop生态环境的功能性,或者它们是否将以某种方式影响MongoDB的市场份额。 Kelly Stirman认为可能是后者,至少对于已经使用Hadoop的公司来说,MongoDB更有吸引力。10gen公司在销售周期中常常陷入与 Cassandra和HBase的竞争中,但是现在“从本质上说,这三种数据库对于Hadoop而言地位相当。”

地位相当?或许是这样的,至少人们愿意用Hadoop的规模性弥补数据库较低的可扩展性。当然根据不同应用的特点,企业用户仍有充足的理由选择MongoDB以外其他的NoSQL数据库。

原文链接:http://tech.it168.com/a2013/0825/1525/000001525378.shtml

责任编辑:林师授 来源: IT168
相关推荐

2011-12-25 20:50:05

云计算Hadoop

2023-05-15 16:24:00

光纤综合布线

2009-07-31 16:58:12

光纤连接器

2011-10-10 12:16:53

光纤预端接综合布线

2017-04-27 10:33:50

云计算

2023-03-10 15:18:55

光纤

2023-11-07 16:22:51

光纤连接器光缆

2014-11-07 13:50:28

光纤

2013-08-22 09:24:01

MongoDBHadoopMapReduce

2023-04-26 14:12:09

光纤数据中心

2011-07-18 09:25:25

Windows服务器手机

2009-07-18 15:53:17

光纤连接器光纤终端

2021-09-13 09:52:11

Python项目连接器

2023-09-18 16:07:58

2016-08-02 14:34:24

数据中心

2015-02-03 16:28:21

新游互联多屏娱乐连接器

2020-12-21 10:30:55

5G连接器手机

2019-09-24 09:46:35

Tomcat连接器Lifecycle

2021-11-12 06:39:51

Tomcat连接器面试
点赞
收藏

51CTO技术栈公众号