2024年数据管理预测:利用AI更好地利用非结构化数据

译文
存储 数据管理
在数据存储和非结构化数据管理领域,过去 12 个月发生了很大变化。在不确定的经济环境下,随着成本上升和 IT 预算压力增加,云存储战略受到关注,生成式 AI 正在创造新的数据存储和治理要求,数据迁移越来越复杂

在数据存储和非结构化数据管理领域,过去 12 个月发生了很大变化。在不确定的经济环境下,随着成本上升和 IT 预算压力增加,云存储战略受到关注,生成式 AI 正在创造新的数据存储和治理要求,数据迁移越来越复杂,IT 组织面临着控制成本和提供更大数据价值的巨大压力。如何处理这一切?以下是针对 IT 组织和数据存储团队的一些预测。首先是 AI 和非结构化数据管理。

人工智能将会更好地利用非结构化数据

非结构化数据非常庞大。直到今天,由于以下几个原因,非结构化数据仍无法使用:搜索、分类、细分和迁移到 AI 引擎,以及分析工具既困难又昂贵。不过,人们越来越需要利用这些数据来创造新的业务价值,随着人工智能的发展,这将变成可能。

挑战在于:想要向 AI 发送数据的研究人员和数据科学家没有简单的方法来安全地做到这一点。它需要编写手动脚本,这需要数天或数周工作。另外,人工智能和机器学习技术仍然不太准确,并引入了偏见和错误的结果。

然而,我们预测对解决方案的需求将会增加,这些解决方案可以创建一个工作流程。利用这个工作流程,人工智能可以快速找到所需的数据,丰富数据并验证结果。工作流程可能包括首先使用人工智能工具扫描云数据湖或数据中心中的数据,以找到项目所需的数据类型。例如, 2022 年的所有胸部  X 线摄影图像。然后,AI 通过扫描文件内容和标记文件(例如“包含用于诊断随访的标记 X”)来丰富元数据,并返回一个可以由人类验证为正确输出的数据集。具有可搜索全局文件索引的非结构化数据管理可以通过 API 连接到 AI 工具,以进一步识别和丰富数据。它为 AI 项目节省时间、提高效率和准确性。

从云优先到数据优先

在全球疫情最严重的时候,云优先战略风靡一时。但在今天,这些计划已经暴露在显微镜下。IT 组织使用适合不同工作负载的多种供应商技术创建了灵活的混合云和多云环境。一些组织发现他们不仅没有节省足够的资金,而且有时甚至比将数据保存在内部花费更多。

这一现实背后有很多原因,但将大部分或全部工作负载放在云中以最终节省成本的想法并没有成功。IT 组织需要根据其数据在整个生命周期中的性能、成本和安全需求,从市场上的众多存储选项(无论是在本地还是在云中)中进行选择。随着需求的变化或更好地技术可用,能够更加轻松地移动数据,这将变得至关重要。

因此,允许大量非结构化数据在不受供应商锁定的情况下,使用移动地数据管理工具,才能变得越来越有价值。

非结构化数据迁移变得更加智能、自动化

传统上,企业数据迁移非常复杂,需要大量实际操作,并且需要大量的专业服务,尤其是在涉及大量非结构化数据时。自动化和人工智能将改变这种状况,实现智能、高效的数据迁移,不再需要 IT 经理时时盯紧数据迁移工作。

这些智能化地工具将知道如何即时解决问题并自我修复。随着技术的增长,高级迁移规划工具将针对不同的工作负载和用例推荐最佳存储层。这是一个必然的结果,因为数据迁移取决于客户不断变化的环境:他们的防火墙、网络连接和安全配置。企业客户将寻求能够提供数量级的更快地迁移速度、更好地长期结果以及更少地数据丢失、错误和安全风险实例的解决方案。

存储IT职业:所需的FinOps和跨平台技能

鉴于上述所有趋势,存储 IT 团队将需要获得更多的专业知识,以便更具成本效益和效率,并符合业务和部门的需求。

FinOps 一词将成为 2024 年存储架构师命名方法的一部分。随着存储越来越以软件和服务为中心,现在对硬件的管理需求也越来越少。相反,管理供应商、合同以及向部门和用户提供安全、经济高效地数据服务将占用存储专业人员的大量时间。

同样,企业正在摆脱单一供应商。因此,存储管理员必须在不同的技术之间跳来跳去,而不是专注于一个平台。这需要在网络、安全、云架构、成本建模和数据分析方面拥有更广泛的技能和知识。

因此,特定于存储的职位将被数据头衔所取代,例如“数据洞察工程师”或“数据管理架构师”。在成熟的基础架构团队中,负责存储的经理将与数据科学和 AI 团队更紧密地合作,采购 AI 就绪的基础架构,并制定数据分类和分析平台数据工作流的计划。

原文标题:Data Management Predictions for 2024

原文作者:Kumar Goswami

责任编辑:张诚
相关推荐

2022-01-14 12:56:38

非结构化数据数据管理IT领导者

2024-05-10 12:52:01

2012-09-25 13:32:31

大数据Hadoop

2023-12-22 11:08:03

GenAIIT预算IT领导者

2018-04-03 14:00:03

结构化数据非结构化数据数据库

2024-01-09 09:39:14

数据存储非结构化数据

2023-01-09 08:39:38

因果推断机器学习

2024-10-14 14:47:58

2021-12-12 08:37:18

结构化数据非结构化数据数据

2023-01-10 17:01:04

2022-02-21 09:36:13

数据管理

2024-05-27 00:32:45

2023-11-15 09:57:35

人工智能非结构化数据

2014-03-23 18:24:24

票据影像数据管理华为

2022-12-14 15:53:22

数据管理数据分析

2009-02-16 15:41:04

非结构化数据SQL Server SQL Server

2014-12-11 10:09:59

Java 8

2022-12-14 14:33:43

云数据管理云计算

2018-01-23 07:15:42

点赞
收藏

51CTO技术栈公众号