华为分享HPC下的大数据存储技术

企业动态
12月5日至6日,华为OceanStor 9000大数据存储系统闪耀亮相2013英特尔高性能计算技术峰会。近日,华为OceanStor 9000大数据存储系统在标准性能评估机构SPEC的SPECsfs2008基准测试中再次刷新记录,成为业界第一。华为OceanStor 9000大数据存储系统正是用于解决高性能计算下的大数据存储瓶颈、数据安全以及数据全生命周期管理问题的最佳大数据存储平台。

 华为携创新型OceanStor 9000大数据存储产品参加“2013英特尔高性能计算技术峰会”。本次大会由英特尔主办,主题为“绿色计算 应用驱动“,50多家国内***的高性能计算研究机构,近200名专家、学者、行业代表与英特尔高管与技术专家一同出席了本次峰会。与会专家通过主题演讲分享了高性能计算(以下简称HPC)前沿技术与创新成果,通过专业论坛深入探讨了HPC当前的技术热点与趋势,并进行了多形式的学术交流。

本次峰会参与单位涵盖国家超算中心,各省市超算中心,中科院、华大基因、生命科学院等若干高性能计算研究机构,以及清华,北大等10多家国内名校。阵容强大,堪称国内高性能计算研究领域的重要盛会。

中国石油东方地球物理公司研究院处理中心总工程师赖能和提到:“当今的高性能计算遇到了诸多问题,如多处理器协同工作,CPU+GPU模式的能耗管理,但是最重要的还在于大数据应用中遇到的存储瓶颈和数据安全问题。”

本次大会,华为参展的OceanStor 9000大数据存储系统正是用于解决高性能计算下的大数据存储瓶颈、数据安全以及数据全生命周期管理问题的***大数据存储平台。近日,华为OceanStor 9000大数据存储系统在标准性能评估机构SPEC的SPECsfs2008基准测试中再次刷新记录。评测结果显示, 华为OceanStor 9000仅使用100个节点,在NFS网络共享协议环境下的性能值就达到了惊人的5,030,264 OPS,成为业界***,领先友商产品3倍多。华为OceanStor 9000大数据存储系统可以支持288个节点,实现灵活的扩展能力,提供“scale-out”式的性能和容量线性扩展能力,200GB/s系统带宽可以满足高性能计算集群在大数据存储和数据交换上的带宽需求。

固态硬盘、Infiniband互联技术这些HPC领域的关键技术,也成为本次峰会上的重要议题,而此类前沿技术在华为OceanStor 9000大数据存储系统上也均有体现。OceanStor 9000大数据存储系统提供的高性能节点,带有4款华为自研的固态硬盘,系统可以实现冷热数据的自动迁移,以保证计算系统能最快的获取数据。并且支持Infiniband组网方式,同时提供了廉价的基于10GE+RDMA的组网。通过充分利用RDMA等功能,使得传统意义上认为高时延的IP总线具备可以媲美IB低延时能力。

相对于大数据来说,高性能计算在很多行业用户中都得到了较早的部署与应用,在软硬件一体化平台、数据存储等方面为大数据应用打下良好的基础。特别是高性能计算和大数据在内在逻辑上是相通的,在平台扩展、应用落地等方面具有互补优势,这就满足了高性能计算和大数据进行融合的充分性条件。OceanStor 9000大数据存储系统正是这一思想的践行者。它提供了对数据的分析检索接口,高性能计算集群系统可以利用该接口将原有的数据分析任务,下移到存储系统执行,从而降低上层计算系统的运算压力。对于采用Hadoop计算框架的高性能计算集群,在原有Hadoop系统中,一级存储的数据需手动从计算集群迁移到二级存储,过程复杂繁琐;二级存储数量庞大,难于管理。另外这种大量数据的迁移,不仅耗时,对计算网络也造成很大的负担。OceanStor 9000大数据存储系统 X位一体的思路对于这种用Hadoop计算框架的应用而言,尤其有益。采用OceanStor 9000大数据存储系统作为存储系统的高性能计算系统可免除跨设备数据的装载、迁移,不仅降低了管理成本,也降低了设备采购成本。

责任编辑:林琳 来源: 51CTO.com
相关推荐

2017-02-23 10:27:59

2012-06-08 09:46:26

大数据

2016-02-29 15:09:54

戴尔云计算

2014-06-26 16:57:31

HPCISC’14华为

2016-11-08 17:38:55

华为HPC

2016-10-13 09:52:53

大数据搜索技术

2013-05-29 10:07:34

大数据存储技术

2012-09-06 10:52:25

华为MVX大数据存储

2014-04-22 13:17:23

综合布线布线技术

2020-11-20 14:15:23

大数据数据存储

2015-04-08 10:58:13

综合布线大数据

2012-09-05 16:08:31

大数据存储HCC2012华为云计算大会

2014-04-16 10:31:06

石油勘探HPC华为

2013-08-08 10:07:43

大数据存储结构化数据

2016-09-29 12:59:54

大数据采集系统

2018-03-20 10:37:33

存储大数据管理

2017-07-13 11:13:18

大数据数据存储

2013-11-11 14:35:40

高性能计算机曙光

2012-09-05 17:45:03

存储系统大数据华为

2022-09-01 23:34:18

大数据数据分析工具
点赞
收藏

51CTO技术栈公众号