我们都已经看到了有关即将有多少设备连接到物联网(IoT)的预测。例如，IDC预测到2025年这一数字将超过410亿。关于将释放的机会使我们的房屋，工作，娱乐和旅行更加有效和可持续的报道很多。
但是，支撑这些进步的数据爆炸正使那些创建产品，服务和支持基础架构的人头痛。许多早期的物联网设备都依靠云来处理其收集的数据。该模型的部分驱动力是云中有效的无限计算能力，再加上许多物联网设备的受限板载处理能力。
数据上传到云端的局限性
但是，向云发送数据和从云发送数据都有其缺点。
首先，传输数据会消耗能量和带宽。更多数据意味着您需要更多昂贵且有限的网络资源。
其次，将数据发送到云会引入延迟，这会限制某些应用程序的有效性。
第三，外部信息带来了隐私和安全风险。例如，由智能家居设备收集的数据将揭示有关您在家中和外出时的大量信息。如果此信息发送到云，您可以确定它已安全完成吗?它以什么形式存储在哪里?谁有权使用它?
引入边缘智能的优势
随着越来越多的设备收集更多(和更敏感)的数据进行处理，解决这些挑战的需求变得越来越紧迫。这是“边缘智能”兴起的主要推动力之一。
在此模型中，不是将所有数据发送到云，而是在本地网络的“边缘”，在连接设备附近完成密钥处理和决策。这减少了上述延迟，能耗和带宽使用，同时使用户能够将私有数据保留在其自己的基础架构范围内。
边缘智能的核心是机器学习。目前，在这种情况下，我们主要讨论机器推理。这是边缘设备使用预先训练好的的机器学习模型基于本地传感器收集的新数据做出决策的地方。
图1：ABI的研究人员预测，到2024年，支持板载AI推理的设备出货量将达到20亿。(来源ABI;图片由NXP Semiconductors提供)
在边缘推动向AI的转变
通过改进推理处理，尤其是用于加速推理的技术，可以在这种资源受限的环境中显着增加推理。
第一代机器学习加速器主要基于软件，并且CPU运行指令集。第二代引入了专用硬件，例如GPU和DSP。今天，我们有了第三代产品，它使用了基于硬件的修剪和压缩等功能。在硬件中完成的工作越多，由于减少了软件和CPU周期的使用，该过程就变得更加节能。
图2：通过机器学习加速器可以看到能源效率的提高。(来源：恩智浦半导体)
当今的边缘智能可以实现什么
作为人类，我们的大部分交流不只是通过言语传递的：我们的语气，面部表情和手势都有助于我们本能地交流和理解彼此。使用基于边缘的推理，当今的设计师可以使他们的产品适应这些信号，从而设计出越来越自然的交互体验。技术可以包括面部和其他对象和手势识别，语音识别，音调分析和自然语言处理。
在其他地方，智能边缘设备可以增强安全性。例如，可以训练智能家居边缘套件来识别危险信号，例如警报响起，人员摔倒，玻璃破碎或水龙头滴落或奔跑。一旦检测到问题，系统便可以提醒所有者，使他们能够做出相应的反应。
接下来是什么?
在未来几年中，很可能会出现许多利用这种功能日益强大的边缘智能优势的新型物联网产品和服务。
我们讨论了当前如何使用第三代AI加速功能。未来可能包括神经形态或内存计算，脉冲神经网络或最终是量子AI。这些发展将有助于加速当前正在出现的另一种趋势，即能够在边缘实施机器学习算法的实际训练。
对于我们的设计师，工程师，企业和消费者而言，这将是一个激动人心的时刻，我们的技术将变得更加有用，更加安全并且更具可持续性。
