NXP Semiconductors边缘处理战略主管Gowri Chindalore说：“我们都看到了关于有多少设备将很快连接到物联网(IoT)的预测。”例如，IDC预测到2025年这一数字将超过410亿。关于这将释放的机会，使我们的家庭、工作、娱乐和旅行更加高效和可持续发展，已经有很多报道。
但支撑这些进步的数据爆炸式增长正给那些创造产品、服务和支持基础设施的人带来麻烦。许多早期的物联网设备依赖云来处理它们收集的数据。该模型的部分驱动因素是云中有效的无限计算能力，再加上许多物联网设备受限的机载处理能力。
卸载到云端的局限性
不过，在云端和云端发送数据也有其缺点。首先，传输数据需要能量和带宽。更多的数据意味着你需要更多这些昂贵而有限的资源。其次，向云端发送数据会带来延迟，这会限制某些应用程序的有效性。
第三，机外信息会带来隐私和安全风险。例如，智能家居设备收集的数据将揭示很多关于你何时在家和何时外出的信息。如果这些信息被发送到云端，你能确定它是安全的吗?它储存在哪里，以什么形式?谁能得到它?
随着越来越多的设备收集更多(和更敏感)的数据进行处理，应对这些挑战的需求变得越来越迫切。这是“智能优势”兴起的主要驱动力之一。
在这个模型中，密钥处理和决策不是发送到云端，而是在本地网络的“边缘”靠近连接的设备进行。这减少了上述延迟、能耗和带宽使用，同时允许用户将私有数据保留在自己的基础设施范围内。
智能边缘的核心是机器学习。目前，我们主要讨论的是推理。这是边缘设备使用预先训练的机器学习模型，根据本地传感器收集的新数据做出决策。
在边缘推动向人工智能的转变
在这种资源受限的环境中，推理的显著增长是通过改进推理处理，特别是用于加速推理的技术而实现的。
第一代机器学习加速器(如果它们是加速器的话)主要是基于软件的，由CPU运行指令集。第二代引入了专用硬件，如gpu和dsp。今天，我们有了第三代，它使用基于硬件的修剪和压缩等功能。在硬件上完成的越多，这个过程就越节能，因为你减少了软件和CPU周期的使用。
今天的智能优势可以实现什么
作为人类，我们的大部分交流不仅仅是通过语言来传递的：我们的语气、面部表情和手势都有助于我们本能地交流和理解彼此。使用基于边缘的推理，今天的设计师可以使他们的产品接收到这些信号，从而创造出越来越自然的交互体验。技术可以包括面部和其他物体和手势识别、语音识别、音调分析和自然语言处理。
在其他地方，智能边缘设备可以提高安全性。例如，智能家居边缘套件可以被训练识别危险信号，例如警报响起、人摔倒、玻璃破碎或水龙头滴落或滴落。一旦感觉到问题，系统就可以提醒车主，让他们做出相应的反应。
接下来是什么?
未来几年，将有许多新的物联网产品和服务进入市场，利用这一日益强大的智能优势。如何在第三代人工智能加速能力。未来几代可能包括神经形态或内存计算、尖峰神经网络或最终的量子人工智能。这些发展将有助于加速目前正在出现的另一个趋势，即在边缘实现机器学习算法的实际训练。
