了解这些,轻松打开云端大数据管理“任意门”

云计算 数据管理
大数据对于传统IT系统来说是个大问题,因为处理海量的结构化和非结构化数据有很多事情要做。然而,云计算可以让IT管理大数据集,且无需独占本地系统。

大数据对于传统IT系统来说是个大问题,因为处理海量的结构化和非结构化数据有很多事情要做。然而,云计算可以让IT管理大数据集,且无需独占本地系统。

为了在云端有效管理大数据,了解***的工具和服务很重要。比如Hadoop是处理大数据的通用Apache框架。此外,很多主要的云提供商都有自己的大数据服务,比如亚马逊Web服务的弹性MapReduce、谷歌的BigQuery以及Pivotal的大数据套件。

下面是五个快速链接,可以用来探索云端大数据,涉及基础和进阶的工具和服务。

[[129730]]

1、哪一种云模式最适合你的大数据项目?

公有云、私有云和混合云都有自身的优势。公有云提供了按使用付费架构的弹性和可扩展性。私有云,基于本地基础架构,为企业提供了控制。混合云混合了私有云和公有云服务,用编排实现了其混合。但是,在为大数据选择合适的云模式时,需要更深入的关注每一个模式。

虽然密切的控制很诱人,但是私有云的本地属性对于大数据来说并不理想。相反公有云更适合按需的大数据任务。然而,潜在带宽限制和数据传输成本却是令人担忧的问题。

2、入门级大数据分析:Google BigQuery

大数据项目对于任何组织机构都是是一项重大事业。为了成功实现,找到适合你的数据需求的正确服务非常重要。虽然Hadoop是一个通用的大数据选择,但是并不适合于每一个人。另一个替代品是谷歌BigQuery,尤其是对于相比MapReduce更喜欢SQL的开发者更是如此。

虽然BigQuery促进了大数据分析实现,但是也伴随着一些折扣。云专家Dan Sullivan会详细解释如何使用BigQuery以及什么类型的企业会更适合这个大数据分析服务。

3、大数据即服务:企业客户需要的远不止分析

大数据工作负载会对传统IT系统造成重大损害,因为巨大的数据集需要资源,而且通常运行这些数据很昂贵。这也正是公有云进入的地方,通过气可扩展性和按使用服务的价格模式,公有云价格可以让企业只支付使用的部分,而不是大数据项目的通用架构。此外,公有云允许资源根据工作负载需求自旋加速或者减少。

但是对大数据使用公有云有一个队里面。虽然软件即服务可以削减成本,但是安全和延迟问题还存在。

4.Apache Sqoop:云端大数据分析的关键一环

Apache框架Hadoop是一个越来越通用的分布式计算环境,主要用来处理大数据。随着云提供商利用这个框架,更多的用户将数据集在Hadoop和传统数据库之间转移,能够帮助数据传输的工具变得更加重要。Apache Sqoop就是这样一款工具,可以在Hadoop和关系型数据库之间转移大量数据。

尽管Sqoop有其优势,但是默认的并行性是个问题。本文中我们将看看具体如何使用这款工具。

5、云端大数据安全利器:亚马逊DynamoDB和Accumulo访问控制

虽然云计算对于大数据项目是一个可靠的选择,但是对于一些组织而言安全是一个障碍。但是,根据Sullivan所说,有三个选择可以让NoSQL数据库更加安全:Accumulo、Amazon Web Service的DynamoDB以及MarkLogic。Apache Accumulo是一个分布式的键值数据存储,提供了基于单元的访问控制,据定了谁可以访问组织的大数据。AWS的键值数据存储DynamoDB用身份及访问管理(IAM)策略解决了访问控制。MarkLogic是一个基于文档的NoSQL数据库,提供了基于角色的访问控制和执行。

原文链接:http://www.searchcloudcomputing.com.cn/showcontent_88193.htm

责任编辑:Ophira 来源: TechTarget中国
相关推荐

2016-03-21 09:25:01

2012-10-09 10:44:49

大数据管理大数据服务器

2024-06-21 14:21:11

2015-09-10 14:07:44

大数据管理共享

2017-01-10 14:28:01

数据管理大数据SAP

2015-06-03 11:06:01

大数据考试数据管理

2024-05-10 13:01:49

2017-10-12 14:54:52

2017-12-01 08:44:36

机器学习大数据管理

2023-11-02 17:48:20

大数据

2015-01-26 12:42:38

Informatica主数据管理

2017-04-05 06:40:32

科技新闻早报

2012-09-27 09:19:22

大数据SaaS云管理

2024-04-18 10:59:08

系统数据数据管理架构

2024-01-16 08:09:28

PythonMongoDB数据存储

2019-03-29 14:44:15

数据管理大数据人工智能

2023-11-13 14:53:23

2016-12-02 08:36:24

利用大数据Hadoop

2022-09-13 12:19:14

自动驾驶数据

2017-01-04 16:09:49

点赞
收藏

51CTO技术栈公众号