6个优秀的开源文件系统助力大数据分析

开源
“大数据”作为时下最火热的IT行业的词汇,个人、企业和政府机构之间的互动创造了数据的海洋,我们51CTO传媒在4月26日-27日也将举行2013大数据全球技术峰会,分享大数据技术趋势和最佳实践,是一场重新认识数据价值的技术盛宴。大数据需要大量的储存空间,本文分享了6个优秀的开源文件系统,助力大数据深入分析。

大数据在今天吸引了大量关注,个人、企业和政府机构之间的互动创造了数据的海洋,通过有效识别、访问、筛选和分析其中部分数据能带来新的见解和益处。大数据需要大量的储存空间,先进的存储基础设施必不可少,需要能在多台服务器上伸缩自如的存储解决方案。有许多优秀的开源文件系统能用于深入分析大数据,其中包括:

QFS

Quantcast File System (QFS) 是一个高性能、容错、分布式的文件系统,其开发是用于支持 MapReduce 处理或者需要顺序读写大文件的应用。

HDFS

Hadoop Distributed File System,简称HDFS,是一个分布式文件系统。HDFS有着高容错性(fault-tolerent)的特点,并且设计用来部署在低廉的(low- cost)硬件上。而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合那些有着超大数据集(large data set)的应用程序。HDFS放宽了(relax)POSIX的要求(requirements)这样可以实现流的形式访问(streaming access)文件系统中的数据。HDFS开始是为开源的apache项目nutch的基础结构而创建,HDFS是hadoop项目的一部分,而 hadoop又是lucene的一部分。

HDFS

Ceph

Ceph是加州大学Santa Cruz分校的Sage Weil(DreamHost的联合创始人)专为博士论文设计的新一代自由软件分布式文件系统。自2007年毕业之后,Sage开始全职投入到Ceph开 发之中,使其能适用于生产环境。Ceph的主要目标是设计成基于POSIX的没有单点故障的分布式文件系统,使数据能容错和无缝的复制。2010年3 月,Linus Torvalds将Ceph client合并到内 核2.6.34中。IBM开发者园地的一篇文章探讨了Ceph的架构,它的容错实现和简化海量数据管理的功能。

Lustre

Lustre是一个大规模的、安全可靠的,具备高可用性的集群文件系统,它是由SUN公司开发和维护的。

该项目主要的目的就是开发下一代的集群文件系统,可以支持超过10000个节点,数以PB的数据量存储系统。

GlusterFS

GlusterFS 是一个集群的文件系统,支持 PB 级的数据量。GlusterFS 通过 RDMA 和 TCP/IP 方式将分布到不同服务器上的存储空间汇集成一个大的网络并行文件系统。

PVFS

PVFS 是一个高性能、开源的并行文件系统,主要用于并行计算环境中的应用。特别为超大数量的客户端和服务器端设计。模块化结构设计,可轻松的添加新的硬件和算法支持。

PVFS 侧重高性能访问大数据集,包含一个服务器进程和客户端开发库,完全基于用户级代码编写。

特征:

  • 基于对象的设计思路
  • Optimized for regular strided access
  • 独立数据和元数据的存储
  • 优化的 MPI-IO 支持
  • 多种网络支持
  • 无状态的服务器
  • 用户级的实现方案
  • 系统级接口
  • 可在很多 Linux 版本上构建
  • 支持多数平台,包括 IA32, IA64, Opteron, PowerPC, Alpha, and MIPS

原文链接:http://www.linuxlinks.com/article/20130411155608341/FileSystems.html

责任编辑:黄丹 来源: oschina.net
相关推荐

2019-08-22 09:08:53

大数据HadoopStorm

2018-06-05 12:06:20

Hadoop开源工具

2020-04-08 16:41:18

大数据Hadoop工具

2015-08-24 13:51:40

数据挖掘

2018-06-26 10:20:17

数据分析制造行业大数据

2013-01-06 11:01:59

大数据分析

2018-11-08 15:12:16

数据分析算法决策树

2023-10-13 13:11:26

大数据技术开源

2014-07-23 10:03:20

2020-07-07 12:06:58

大数据数据分析工具

2013-05-17 09:51:35

大数据分析系统大数据

2017-07-20 16:40:36

大数据分析工具

2015-10-20 10:23:45

MIT大数据分析系统

2017-08-16 10:21:36

大数据数据分析核心技术

2015-08-14 10:28:09

大数据

2020-07-01 11:27:36

大数据数据分析保险

2020-05-26 10:56:49

数据分析大数据数据

2016-05-17 10:37:46

2020-05-18 09:56:46

数据分析数据管理数据

2021-01-20 15:02:22

数据分析大数据可视化
点赞
收藏

51CTO技术栈公众号