在数据存储和非结构化数据管理领域,过去 12 个月发生了很大变化。在不确定的经济时期,随着成本上升和 IT 预算压力增加,云存储战略受到关注,生成式 AI 正在创造新的数据存储和治理要求,数据迁移越来越复杂。但是,在数据中心整合时代,IT 组织面临着控制成本和提供更大数据价值的巨大压力。如何处理这一切?以下是针对 IT 组织和数据存储团队的一些预测,首先是 AI 和非结构化数据管理。
人工智能将使非结构化数据发挥更大的价值
非结构化数据非常庞大,直到今天,由于搜索、分类、细分和迁移到 AI 引擎和分析工具既困难又昂贵,非结构化数据仍无法完全使用。随着人工智能工具和服务的发展,让许多用户(而不仅仅是财力雄厚的大型组织)能够更好地使用非结构化数据,且人们越来越需要利用这些数据来创造新的业务价值。
但挑战在于:想要向 AI 发送数据的研究人员和数据科学家没有简单的方法来安全地做到这一点。它需要编写手动脚本,这需要数天或数周的工作。另外,人工智能和机器学习技术仍然不太准确,并引入了偏见和错误的结果。
然而,我们仍然预测对解决方案的需求将会增加,这些解决方案可以创建一个工作流程,人工智能可以快速找到所需的数据,丰富数据并验证结果。工作流程可能包括首先使用人工智能工具扫描云数据湖或数据中心中的数据,以找到项目所需的数据类型。
然后,AI 通过扫描文件内容和标记文件(例如“包含用于诊断随访的标记 X”)来丰富元数据,并返回一个可以由人类验证为正确输出的数据集。具有可搜索全局文件索引的非结构化数据管理可以通过 API 连接到 AI 工具,以进一步识别和丰富数据。它为 AI 项目节省时间、提高效率和准确性。
从云优先到数据优先
在全球疫情最严重的时候,云优先战略风靡一时。但今天,这些计划已经暴露在显微镜下。IT 组织使用适合不同工作负载的多种供应商技术创建了灵活的混合云和多云环境,一些组织发现他们不仅没有节省足够的资金,而且有时甚至比将数据保存在内部花费更多。
这一现实背后有很多原因,但将大部分或全部工作负载放在云中以最终节省成本的想法并没有成功。IT 组织将根据其数据在整个生命周期中的性能、成本和安全需求,从市场上的众多存储选项(无论是在本地还是在云中)中进行选择。
随着需求的变化或更好的技术可用,能够轻松移动数据至关重要。因此,允许大量非结构化数据在不受供应商锁定的情况下移动的数据管理工具将越来越有价值。
非结构化数据迁移变得更加智能、自动化
传统上,企业数据迁移非常复杂,需要大量实际操作,并且需要大量的专业服务,尤其是在涉及大量非结构化数据时。自动化和人工智能将改变这种状况,实现智能、高效的数据迁移,不再需要 IT 经理照看他们,而且它们也将具有适应性。
这些工具将知道如何即时解决问题并自我修复。随着技术的增长,高级迁移规划工具将针对不同的工作负载和应用案例推荐最佳存储层。因为,数据迁移取决于客户不断变化的环境:他们的防火墙、网络连接和安全配置。企业客户将寻求能够提供数量级更快的迁移速度、更好地长期结果以及更少的数据丢失、错误和安全风险实例的解决方案。
存储 IT 职业:需要 FinOps 和跨孤岛技能
鉴于上述所有趋势,存储 IT 团队将需要获得更多的专业知识,以便更具成本效益和效率,并符合业务和部门的需求。FinOps 一词将成为 2024 年存储架构师命名法的一部分。随着存储越来越以软件和服务为中心,现在对硬件的管理需求也越来越少。相反,管理供应商、合同以及向部门和用户提供安全、经济高效的数据服务将占用存储专业人员的大量时间。
同样,企业正在摆脱单一供应商。因此,存储管理员必须在不同的技术之间跳来跳去,而不是专注于一个平台。这需要在网络、安全、云架构、成本建模和数据分析方面拥有更广泛的技能和知识。
为此,特定于存储的职位将被数据头衔所取代,例如“数据洞察工程师”或“数据管理架构师”。在成熟的基础架构团队中,负责存储的经理将与数据科学和 AI 团队更紧密地合作,采购 AI 就绪的基础架构,并制定数据分类和分析平台数据工作流的计划。
原文标题:Data Management Predictions for 2024
原文作者:Kumar Goswami