边缘计算和人工智能是如何协同工作的?为什么边缘计算很适合人工智能?有哪些用例?IT主管应该知道这些内容。
几十年来,人工智能(AI)一直活跃在数据中心,因为数据中心具有足够的计算能力来执行处理器要求的认知任务。随着时间的推移,人工智能进入了软件领域,其中的预测算法改变了这些系统支持企业业务发展的本质,如今人工智能已经转移到网络的边缘。
SAS公司物联网副总裁Jason Mann解释说:“当人工智能技术嵌入物联网的端点、网关和其他设备时,边缘人工智能就会出现。”
Red Hat公司首席技术策略师E.G.说:“换句话说,边缘计算使数据和计算更加接近交互点。”边缘人工智能是一种非常真实(并且正在迅速扩展)的现象,为从智能手机、智能音箱到汽车传感器和安全摄像头等各种设备提供动力。
IDC公司专注于边缘战略的全球基础设施业务研究总监Dave McCarthy表示,“人工智能是边缘计算中最常见的工作负载。随着物联网实现的成熟,人们对在生成时应用人工智能进行实时事件检测越来越感兴趣。”
调研机构德勤公司预测,全球在今年将出售超过7.5亿个边缘人工智能芯片(专门设计用于执行或加速设备上的机器学习),在未来四年内,企业市场的增长速度超过其消费者市场,其复合年增长率为50%。
根据咨询机构易观梅森(Analysys Mason) 公司的一份调查报告,在未来三年中,企业将平均30%的IT预算用于边缘计算。
当IT领导者考虑边缘人工智能可能适合他们自己的企业技术路线图时,企业将平均30%的IT预算用于边缘计算。
1.从头开始很重要
如果企业尚未实施边缘解决方案,那么将无法直接应用边缘人工智能。CompTIA技术分析高级总监Seth Robinson说,“对于当今大多数IT领导者而言,第一步是构建一种利用边缘计算和云计算后端的解决方案架构,集成人工智能将是管理边缘解决方案规模和建立竞争优势的关键一步。”
2.边缘人工智能可以解决基于云计算的人工智能的局限性
延迟、安全性、成本、带宽和隐私是一些与机器或深度学习任务相关的问题,边缘人工智能(更接近数据源)可以缓解这些任务。例如,每次人们向Siri或Alexa或Google提出问题时,其语音记录就会发送到边缘网络,在该网络中,谷歌、苹果和亚马逊等公司使用人工智能将语音转换为文本,从而使命令处理器能够生成答案。
如果没有边缘计算,等待响应的时间将会司空见惯。PubNub公司首席技术官兼联合创始人Stephen Blum表示:“边缘网络允许在Doherty阈值(不到400毫秒)内获得令人愉快的用户体验。谷歌、苹果和亚马逊在边缘计算投入巨资,以使他们的人工智能技术能够快速回答问题。为了与行业巨头开展竞争,其他的企业需要投资开发边缘人工智能。”
3.如今只有一部分人工智能工作流发生在边缘
Omdia公司分析师在其主题为《边缘设备人工智能》报告中解释说,“如今的人工智能边缘处理专注于将人工智能工作流的推理部分移到设备上。”
IDC公司McCarthy解释说,通常会使用历史数据集在中央数据中心或云计算基础设施中对人工智能模型本身进行培训。然后,可以将这些人工智能模型部署到边缘以针对当前数据进行推断。
SAS公司的Mann说:“实质上,企业可以在其中的一个环境中进行培训,而在另一个环境中执行。训练机器学习所需的大量数据和计算能力非常适合云计算,而在新数据上推理或运行训练后的模型则非常适合在边缘执行。”
Omdia指出,在新的数据上推断或运行训练过的模型非常适合在边缘执行。能够将大型人工智能模型压缩为小型硬件形式的模型压缩技术可以随着时间的推移将一些训练推向边缘。
4.在边缘进行实时学习需要时间
PubNub公司的Blum说,“实时学习使人工智能在每次交互过程中都能不断发展和完善。为了使人工智能能够实时学习,矩阵(人工智能大脑)必须在接受培训的同时还可以回答用户的要求。这一挑战使大多数网络都排除了实时学习。”
但是,一旦克服了这些挑战,这将为更高级的边缘人工智能应用打开大门。
5. 边缘人工智能需要大量数据
IDC公司的McCarthy说,“只有当有足够的数据来建立统计上相关的模型时,整个过程才会起作用。无论是从历史数据还是获得预期结果的数据来看,许多企业都没有达到较低的要求。”
6. 从整理好数据库开始
CompTIA公司Robinson表示,“大多数组织尚未建立全面的数据管理实践,也没有这些类型的数据集。此外,现代人工智能比以前的软件程序更多地基于概率。错误或无意义的答案的风险更高,并且如果训练数据不完整或有任何偏见,则该风险会增加。企业与其快速安装人工智能组件并从中获益,还不如从彻底检查数据开始。”
同时,McCarthy表示,行业专家可以用业务逻辑代替基于数据的学习,这种学习可以实时用于多个数据流,直到企业积累了足够良好的数据来充分利用人工智能。
7.云计算到边缘架构应具有灵活性和前瞻性
SAS公司的Mann说:“在定义架构时,需要确保要针对企业规模进行设计。云计算到边缘架构需要支持模型的部署、模型随时间的变化,以及在安全环境中的数据传输。”
Mann建议实施与芯片组、操作系统和云计算提供商无关的架构,以提供很大的灵活性,以实现长期的持续价值。
Mann说,“尽管并非所有问题都适合边缘人工智能,但随着高级用例的发展,所有IT基础设施和架构都应设计为适应边缘分析。重要的是必须拥有一个环境,该环境可以支持将分析部署在实时或批处理所需的位置。”