车队跟踪、资产跟踪、自主车辆、制造自动化和仓储都是人工智能嵌入式芯片技术可以减轻网络数据承载负荷的领域。他们可以在提供前线实时信息的同时做到这一点。
许多这样的进程需要大量的数据来激活。与此同时,他们需要实时传输这些数据。与其他数据密集型流程(如通过机器学习训练数据)相比,这类流程从云计算中获益不多。相反,这些过程从边缘计算中获益最多,边缘计算将计算、网络和其他资源直接提供给需要它们的设备和数据。
通过激活人工智能(在片上系统(SOC)级别上的AI0处理负载,IT可以扩展其分配和卸载数据处理负载到企业架构的不同层(例如,云、中央数据中心或边缘本身)的选择。这改进了数据管理和处理。它还节省了带宽,加快了数据和结果。
与传统的gpu(图形处理单元)、fpga(现场可编程门阵列)或其他类型的集成电路(ic)相比,SOC嵌入式微控制器使用更窄的内存和功耗。
Hyperion高性能计算市场动态研究高级顾问史蒂夫?康威表示:“未来5年,我们将看到人工智能正处于普及的边缘。”
ARMAtom、GPU和其他嵌入式处理器已经普遍应用于手机、传感器、汽车、医疗诊断成像系统、游戏系统和许多其他设备。随着人工智能方法的发展,这些现有的嵌入式处理器很可能成为支持人工智能方法的主流。”
边缘物联网对行业的影响
2011年,“制造4.0”一词首次出现。它源于德国政府推动制造业电脑化,为工厂生产引入了数字化、自动化和人工智能的未来愿景。在该方案中,边缘技术可以促进问题或情况的关键位置的决策,其中ai嵌入式soc发挥了主要作用。
今天,这种实时的边缘决策是真实的。制造过程由人工智能支持的边缘决策提供动力。未来,人工智能边缘芯片可以向采购方发出原材料短缺的可操作警报,或在发现缺陷组件时向销售方发出产品可能出现短缺的警报。
边缘人工智能芯片自动化也正在改变物流。
卡车车队可以通过低延迟的边缘通信进行交叉通信,以节省燃料和优化路线。未来,这些卡车中可能只有一辆由人类驾驶,其余车辆则由soc驱动的自动化系统运行。
这可以解决卡车行业的一个主要问题:合格司机的短缺。J.B.Hunt运输服务公司执行副总裁、首席商务官兼高速公路服务总裁ShelleySimpson说:“这是你看到这么多技术进入卡车行业的原因之一。”
每辆卡车的货舱内的智能传感器还可以监控易腐货物的温度和湿度。
例如,一辆运送农产品到亚特兰大的卡车被改道到更靠近华盛顿的市场。在该卡车货舱内的传感器提醒司机和物流公司产品过热可能会变质后,该公司下令改变路线。该公司对信息进行实时处理的能力避免了损坏,节省了资金。在食品行业,它是主要的。联合国粮食和农业组织估计,每年损失或浪费的粮食价值1万亿美元。
人工智能芯片技术也正在改变机载和地面车辆的性能。
军事人员在观察和/或进入危险区域时面临后勤挑战。在过去,一项危险的监视工作可能需要人类亲自检查该地区,使人员面临危险和生命损失。
现在有了边缘人工智能处理,一队无人机可以进行侦察和实时通信。如果一个中队的无人机被击落,该编队会发现问题,调整编队以继续执行任务。SAS物联网和边缘部门产品管理高级经理SaurabhMishra表示:“除非有专门的芯片支持,否则需要处理包括视频和音频在内的多种感官输入的高要求工作负载可能会开始突破极限。”“无人驾驶飞机、机械手臂和工业自动化都是这些芯片应用的好例子。”
地缘政治和创新
然而,由于地缘政治力量在芯片和半导体行业发挥作用,企业感到担忧。
2019年,华为被列入美国受限名单。英伟达随后以400亿美元收购了Arm,令谷歌、微软(Microsoft)、高通(Qualcomm)、苹果(Apple)、英特尔(Intel)、三星(Samsung)、华为(Huawei)和亚马逊(Amazon)对一家关键供应商感到担忧。
2019年,英特尔以20亿美元收购了人工智能芯片初创公司哈瓦那实验室(HabanaLabs),AMD以350亿美元收购了Xiliinx。
“过去50年的趋势是,将无关的国家安全担忧与推动反垄断决策的经济分析隔离开来。然而,在潜在的反竞争行为也会危害国家安全的情况下,如果美国政府采取更积极的执法方式,我们不应感到惊讶,”牛津大学人工智能治理中心(CentrefortheGovernanceofAI)研究附属机构卡伦·奥基夫(CullenO’keefe)写道。
当IT部门为人工智能投资辩护并试图“为未来提供证据”时,它必须考虑这些诉讼和反垄断行动。
“今天,人工智能被广泛视为未来经济领导的关键,中国、日本和欧洲都有强大的计划,以摆脱对美国的依赖,开发本土处理器,”康威说。“IT部门无法对这些地缘政治斗争产生太大影响,但他们可以制定计划,确保他们需要的处理器供应是安全的,尤其是通过谈判带有惩罚条款的长期供应商合同,以及保持足够的库存水平。”
IT待办事项清单
转向更小尺寸的物联网将迫使IT关注三个关键领域:
IT体系结构。IT体系结构必须重新调整,以适应公司希望用芯片级AI解决的业务用例。最低限度地说,这种架构修订可能产生三层IT技术、处理和数据架构:数据中心、云和边缘。
“当然,我们的出发点是规划和优化端到端流程,并利用这些信息在过程中的每个点分配适当的资源,”Conway说,他提到了PayPal的工作。
康威说:“六年前,PayPal在信用卡交易中存在严重的欺诈问题。“识别欺诈行为需要长达两周的时间,到那时,欺诈行为已经经常影响到客户的信用卡。该公司安装了一台高性能计算机,可以在150毫秒内发现并防止诈骗,在第一年左右为贝宝节省了超过7亿美元。
PayPal和其他公司的应用程序依赖于读卡器中的嵌入式处理器,以及用于往返授权过程的互联网,以及用于重物搬运、现场或云端的非嵌入式处理器的服务器系统。”
IT技能。在一份2019年微软物联网信号报告中,只有47%的受访者认为市场上有具备必要的物联网工作技能的人。
SAS物联网和边缘部门产品管理高级经理SaurabhMishra表示:“在芯片上管理AI模型的熟练资源的可用性仍将是一个挑战。”企业也应该认识到这一点。
边缘AI芯片不是灵丹妙药。它们在更大的系统范围内工作。在部署AI嵌入式芯片时,考虑完整的流水线至关重要,因为上游或下游的薄弱环节会否定其目标增长。”
商业物联网软件和硬件堆栈可以帮助解决管道集成挑战,但处理仍然必须由IT在每一层定义。这包括模型构建和soc编程。
投资管理。与其他it领域一样,人工智能/芯片领域将继续出现整合、反垄断和知识产权诉讼。
好消息是,企业IT部门对此并不陌生。
选择一个广泛接受的具有大量用户基础的物联网堆栈解决方案是一种防未来的形式,同时也确保您使用的物联网符合公共安全标准和api。第二种策略是与物联网供应商就合同中规定的责任和投资保护进行谈判。
最后,支持人工智能的芯片必须带来业务成果。
“边缘物联网对IT架构的影响将归结为它被要求实现的用例,在这些用例中,人工智能提供了实时预处理信息的能力,并且只传输相关和有用的数据,”自主机器产品管理主管兼NVIDIA机器人技术总经理MuraliGopalakrishna说。
“工厂中的自动化人工智能检查过程将使用实时信息在边缘做出瞬间决策,同时将相关数据传输到后端系统,以便在带外进行后处理、分析和新模型开发,从而做出基于物联网边缘的决策。”
应用程序可以检测戴着口罩的居住者,或者通过创建热图来计算进出空间的人数,以确保不超过居住限制。Gopalakrishna说,随着物联网和边缘领域出现额外的传感器、摄像头和自动化,人工智能将与IT经理和基础设施架构更加相关。