大数据之“大”
“大”是相对而言的概念。例如，对于像SAP HANA那样的 “内存数据库”来说，2TB可能就已经是大容量了;而对于像谷歌这样的搜索引擎，EB的数据量才能称得上是大数据。
“大”也是一个迅速变化的概念。HDS 在 2004 年发布的 USP 存储虚拟化平台具 备管理 32PB 内外部附加存储的能力。当时，大多数人认为，USP 的存储容量大得有 些离谱。但是现在，大多数企业都已经拥有 PB 级的数据量，一些搜索引擎公司的数据 存储量甚至达到了 EB 级。由于许多家庭都 保存了 TB 级的数据量，一些云计算公司正在推广其文件共享或家庭数据备份服务。
有容乃“大”
由此看来，大数据存储的首要需求存储容量可扩展。大数据对存储容量的需求已经超出目前用户现有的存储能力。我们现在正处于 PB 级时代，而EB级时代即将到来。过去，许多企业通常以五年作为 IT系统规划的一个周期。在这五年中，企业的存储容量可能会增加一倍。现在，企业则需要制定存储数据量级(比如从PB级到EB级)的增长计划，只有这样才能确保业务不受干扰地持续增长。这就要求实现存储虚拟化。存储虚拟化是目前为止提高存储效率最重要、最有效的技术手段。它为现有存储系统提供了自动分层和精简配置等提高存储效率的工具。拥有了虚拟化存储，用户可以将来自内部和外部存储系统中的结构化和非结构化数据全部整合到一个单一的存储平台上。当所有存储资产变成一个单一的存储资源池时，自动分层和精简配置功能就可以扩展到整个存储基础设施层面。在这种情况下，用户可以轻松实现容量回收和容量利用率的最大化，并延长现有存储系统的寿命，显著提高IT系统的灵活性和效率，以满足非结构化数据增长的需求。中型企业可以在不影响性能的情况下将HUS的容量扩展到近3PB，并可通过动态虚拟控制器实现系统的快速预配置。此外，通过HDS VSP 的虚拟化功能，大型企业可以创建0.25EB容量的存储池。随着非结构化数据的快速增长，未来，文件与内容数据又该如何进行扩展呢?
不断“生长”的大数据
与结构化数据不同，很多非结构化数据需要通过互联网协议来访问，并且存储在文件或内容平台之中。大多数文件与内容平台的存储容量过去只能达到TB级，现在则需要扩展到PB级，而未来将扩展到EB级。这些非结构化的数据必须以文件或对象的形式来访问。基于Unix 和Linux的传统文件系统通常将文件、目录或与其他文件系统对象有关的信息存储在一个索引节点中。索引节点不是数据本身，而是描述数据所有权、访问模式、文件大小、时间戳、文件指针和文件类型等信息的元数据。传统文件系统中的索引节点数量有限，导致文件系统可以容纳的文件、目录或对象的数量受到限制。HNAS 和HCP 使用基于对象的文件系统，使得其容量能够扩展到PB级，可以容纳数十亿个文件或对象。位于VSP 或HUS 之上的HNAS 和HCP 网关不仅可以充分利用模块存储的可扩展性，而且可以享受到通用管理平台HitachiCommand Suite 带来的好处。HNAS 和HCP 为大数据的存储提供了一个优良的架构。大数据存储平台必须能够不受干扰地持续扩展，并具有跨越不同时代技术的能力。数据迁移必须在最小范围内进行，而且要在后台完成。大数据只要复制一次，就能具有很好的可恢复性。大数据存储平台可以通过版本控制来跟踪数据的变更，而不会因为大数据发生一次变更，就重新备份一次所有的数据。HDS 的所有产品均可以实现后台的数据移动和分层，并可以增加VSP、HUS 数据池、HNAS 文件系统、HCP 的容量，还能自动调整数据的布局。传统文件系统与块数据存储设备不支持动态扩展。大数据存储平台还必须具有弹性，不允许出现任何可能需要重建大数据的单点故障。HDS可以实现VSP 和HUS的冗余配置，并能为HNAS 和HCP节点提供相同的弹性。大数据存储平台需要将文件、块数据和内容集成到一个统一的HitachiCommand Suite管理平台之上，以满足大数据处理和应用的需求。
