边缘计算和物联网开发商Nubix公司的CEO Jason经常就边缘计算、物联网、人工智能、5G、数字孪生和生态系统等技术主题发表演讲和写作,并被公认为是100强工业物联网影响者之一。
此次物联网播客的主持人Ryan Chacon与Nubix公司的CEO Jason Shepherd对推动边缘计算和物联网的发展趋势进行了探讨。
Jason Shepherd简介
Ryan:在开始探讨边缘计算和物联网趋势之前,请你简单介绍一下自己。
Jason:我长期从事边缘计算和物联网的工程和研发工作,处于新技术趋势的前端,并从首席技术官角色转向业务。我在边缘计算和物联网行业开发了一些开源项目,也做过很多不同的事情。
作为Nubix的公司的CEO,我主要关注的是如何为全球数十亿微型物联网设备提供类似云计算的体验。很多物联网设备由于太小,在硬件方面无法运行Linux系统,那么如何将容器用在这些设备上?这很有趣。在入职Nubix公司之前,我在戴尔科技公司担任边缘计算和物联网领域的首席技术官。我之前也在VMware公司工作了很长时间。
推动边缘计算的趋势
Ryan:说到边缘计算,当人们谈论边缘计算的趋势时,通常都是一些宏观发展趋势,例如更低的延迟、带宽消耗、增强安全性、保护个人隐私诸如此类的事项。除了那些通常被引用的推动边缘计算向前发展的技术原因之外,还有哪些其他的趋势需要关注?
Jason:有一件事很常见。人们通常会谈到延迟和带宽之类的术语,即使是延迟也有细微差别。例如,“实时”就是一个被过度使用的术语,例如,安全气囊的实时时间通常以毫秒计算,并且其时间必须是确定的,而在建筑自动化用例中,其实时间通常是15分钟。虽然很多人引用了一些技术原因,但如果是延迟敏感型或者是关键型技术,那就有很大的区别。所以即使在讨论中,人们也不会过多地了解这些细微差别。
我认为,对于边缘计算来说,有一个很少被提及的主要驱动因素,企业需要重新控制数据。在过去的10年到15年里,很多企业都将业务迁移到公有云,投资于资源和集中的云计算非常有意义。
在一个完美的世界中,人们将把一切资源和业务都集中在云端。这很方便,并且具有成本效益。当人们谈论公有云的时候,云计算成本随着业务的增长而快速增长,虽然采用云服务很简单,但可能收到高昂的账单。所以我认为边缘计算也是如此,现在的讨论不仅仅是关于这些技术的发展,而且是关于如何建立多云战略。例如,用户如何在边缘更多地控制自己的数据?在哪里适当地运行工作负载?企业如何更好地控制环境?
我们公司的很多数据都是在边缘产生的,所以我们需要考虑边缘计算的业务。
发展趋势对技术供应商的影响
Ryan:当涉及到这些宏观发展趋势时,我认为边缘计算将会影响技术提供商在物联网领域采取的方法。但是当涉及到将物联网解决方案变为现实时,边缘计算对企业在实现物联网解决方案方面所采取的方法有何影响?
Jason:如果从历史和发展趋势来看,采取的方法各不相同。企业可以采购IT原始设备制造商提供的IT设备,包括硬件和软件,例如采购戴尔、HPE、联想的产品;或者与大型云计算提供商合作,例如与VMwares和Red Hat合作。
就像我之前所说的,企业的业务正在向公有云迁移,现在有些用户希望遣返回数据中心,这将改变一些发展动态。
在过去,云服务提供商通常会从戴尔和惠普这样的硬件供应商那里购买硬件,当云服务提供商达到一定规模时,就会直接去源头购买或者自己生产。因此,他们主要构建自己的基础设施,我们在其他地方也看到了这种情况。
这对传统硬件供应商的业务带来了不利影响。现在,随着业务向边缘计算的转变,人们看到云计算提供商开始提供边缘计算服务,例如AWS Outposts、Azure edge和Google Anthos。但这就像将云计算体验带到内部部署设施一样,在这样情况下,云计算提供商正在蚕食传统硬件原始设备制造商的市场。
我将边缘计算市场称之为基础设施巨头的最后战场或者是下一个战场。对于技术提供商来说,边缘计算是一个热门话题,因为这是一场争夺客户注意力和获取客户的斗争。云服务提供商试图将用户锁定在他们的生态系统中。
硬件厂商通常也会锁定用户,用户被他们采购的硬件所束缚。用户对于云服务提供商和硬件厂商都有不同的选择,例如电信公司都在努力弄清楚他们在哪里运行业务以及需要做些什么。
因此,这些都是争夺市场份额和客户关注的重要推动力。
当前物联网平台格局
Ryan:当我进入物联网领域的时候,很关注物联网平台市场的竞争格局,每个物联网平台都在争取最终用户和买家的关注,物联网平台可以被用于构建任何类型的解决方案。这些年来,这种情况发生了一些变化,你对当前物联网平台的看法是什么?
Jason:我认为现有市场上的物联网平台太多了,多达359个。任何新市场通常都是从平台融资开始的。对于这么多的物联网平台,很多用户在选择方面无所适从。
那么用户的用例是什么?物联网平台供应商不知道,只要用户采购其平台,如何应用需要自己想办法。所以我认为物联网平台现在有了一些进展,很明显,云计算市场已经有了一些改变,谷歌公司关闭了他们的物联网平台,还有一些物联网开发商正在进入这一市场,并在这方面提供帮助。
我认为看到了整合方面的进展。最终需要更开放、更可信的基础设施。物联网开发商通常是通过应用领域知识和围绕独特硬件和软件来获利的。我认为,互操作性将会对云计算和讨论的所有其他事物产生影响。
因为云服务提供商通常锁定用户,这具有粘性,但也有一些弊端。我认为这对于云计算供应商来说是一种提醒,他们需要意识到要有自己的发展方向,也就是说,他们要在哪里获利,而不是试图做所有的事情。
Ryan:这很有趣,因为我们最近注意到,许多物联网平台或解决方案提供商正试图将其定位为更多的交钥匙解决方案或更完整的解决方案,应该说正变得更加垂直,并试图展示解决方案是为这个特定行业或特定问题而构建的,以及针对特定问题定制所有不同的部分。
我认为这正是物联网行业需要进行的改变,因为物联网开发商要有自己的决定。例如,应该与哪个平台供应商合作?需要什么硬件?需要什么样的连接?对于那些不关心所有这些问题的企业来说,这将是一场噩梦,他们只是想找到解决问题的办法。所以我认为,越多的供应商能够帮助用户做到这一点,并帮助他们做出更好的决策,这对物联网行业来说都是一种胜利,因为很明显,越能获得成功,规模就越大,物联网行业也会继续增长。
2014年,戴尔公司开始开展物联网业务,并在一段时间内致力于在这一领域发展,在那时,该公司在横向发展之前先进行垂直发展。随着时间的推移,企业就有更少的选择或者更一致的选择。
我认为,获得关注的仍然是那些规模较小的物联网开发,他们至少非常专注于给定的结果,但肯定会走上整合的道路。
人工智能与物联网的交集
Ryan:你对人工智能和物联网的交集有什么看法,以及这个领域正在发生的一般情况是什么?
Jason:人工智能技术发展迅速,很多公司现在开始进入这个领域,生成式人工智能聊天机器人市场发生了一些非常有趣的事情,并且是现在的热门话题,当它开始自我升级并变得更智能时,人们通常猜测它将会走向何方。
也有很多人认为,人工智能基本上就像一个华而不实的规则引擎。
物联网显然主要与传感器有关,能够大量收集数据,然后用户可以做出决定并采取行动。应用人工智能可以自动化这些元素。无论是物联网还是感应计算机视觉,计算机视觉都将成为边缘计算的杀手级应用。
计算机视觉显然与人工智能有关,摄像头是最好的传感器之一。通过互联网发送原始视频数据并不是一个好主意,用户通常是在本地、设备上或附近进行处理,然后发送事件,触发基于场景的动作。
我认为,当将摄像头看作是与人工智能相连的传感器时,它们之间存在着非常紧密的相关性,生成的内容会有些不同。但与此同时,随着时间的推移,我们将越来越多地看到实时遥测数据馈送到生成式人工智能系统中。
我认为,它确实变得更加具体,也看到了很多事情正在快速发生。
物联网的发展现状
Ryan:我觉得在很多情况下,这种情况肯定发生在技术准备就绪之前的几年,那么物联网发展现状如何?
Jason:我认为人们在某种程度上对物联网感到厌倦了,因为它不是爆炸式增长,但现实正在发生。物联网只是把传感器和这些类型的技术纳入解决方案,并不是说其发展没有面临挑战,而是物联网成为了人们日常工作和生活的一部分。
但是,无论我们怎么称呼物联网都不重要。它就是这样做的,就是使用传感器从物理世界收集数据,并能够利用无法访问的数据,这对企业有着更高的价值。只是无论怎么称呼它,也许不如它的作用重要。
这并不是说物联网这个流行术语有什么不同,很明显,物联网仍在不断发展,而且正在变得越来越好,并且技术越来越复杂,成本也越来越便宜,我们看到物联网正在获得更多的成功。
在我们刚开始开发物联网技术的时候,需要物联网这个标签,这是毫无疑问的。但当我还在戴尔公司工作的时候,就会有客户询问我们希望采购一些物联网产品。
Ryan:这就像我之前关于物联网销售方式正在发生变化的观点一样。有些公司已经在销售技术和组件,但在大多数情况下,他们正在向用户销售物联网产品。用户必须得弄清楚应用怎么买,让这一切变得更容易,这将使很多解决方案真正开始被采用,并得到发展。我不太熟悉TinyML这个术语,它到底是什么?
Jason:TinyML是另一个流行术语,可以这么说,它实际上是将机器学习模型压缩成非常小的固定功能模型,用于非常受限的物联网设备。TinyML的一个例子就是,当人们对智能音箱说,“嘿,Alexa”, 智能音箱中有一个机器学习模型可以识别这个唤醒词,当它连接到互联网时,在理论上每个人都会唤醒智能音箱。
它并不是在听用户说话,而是在听唤醒词。这里就采用了TinyML模型,我们将看到越来越多的这样的功能被部署在功能受限的设备中。从历史上看,对于嵌入式系统,不能运行Linux。
对于这些设备,无论是智能灯泡还是联网产品,需要为它们进行嵌入式编程,对设备进行硬编码优化,因为设备的功能受限。数据中心拥有大量的服务器,可以虚拟化所有的东西,有资源来支付这些开销。随着这些设备变得越来越智能,工具集也越来越好。
用户想要动态地适应软件定义设备。就像人们在汽车和其他产品中看到的那样,产品的变化会随着时间的推移而变化。TinyML是一个代表性的功能,它将开始改变开发这些小设备的方式。
如果用户开始使用这些小模型寻找不同的语音唤醒词或计算机视觉内容,必须能够更新它们。
所以Nubix公司所做的是取代传统的嵌入式硬编码,如何在硬件之上创建一个抽象层,就像在数据中心看到的那样,或者开发虚拟机管理程序或者Linux之上的Docker,或者把同样的原则应用到微控制器上。
但不能将Docker放在MCU里,它太大了,但是可以从中获得分区和容器化的好处。可以把TinyML模型放到一个小功能上,为了安全起见,可以连接到云平台或者连接传感器。
Nubix公司将在上游做的所有这些功能都可以用解决方案在微控制器上完成。用户不需要对所有这些功能进行嵌入式编码。也有更多的人拥有云计算、物联网和人工智能开发方面的技能,以及来自云计算和数据中心的类似技能,而不是嵌入式技能。
因此,通过将硬件容器化,实际上使那些没有嵌入式经验的人能够开发新的功能。TinyML就是一个很好的例子。同样重要的是,如果用户正在构建一个互联产品,从公司里不同的人那里获取代码,可以把知识产权分开。
现在使用嵌入式技术,如果所有这些编译在一起,每个人都必须将他们的源代码编译成一个通用的图像。用户的知识产权会暴露给所有人。
关于物联网和边缘计算的整体观点
Ryan:你如何将物联网和边缘计算作为一个整体来考虑?
Jason:我认为将物联网和边缘计算作为一个整体来考虑是至关重要的。综合考虑采用哪些技术,例如云计算提供了很好的服务,但用户可以尽可能地将其边缘计算投资与云计算分离,尽可能地接近数据源头。
使用API来桥接不同的资源,需要注意锁定。最后,不要仅仅把边缘计算看作是一个区域数据中心或在线设施。越来越多的情况是,这些非常小的物联网设备到处都在进行更多的处理。
所以要综合考虑。最终的问题是,如果做得对,将有这些不同的范例,但仍然可以在这些基于微控制器的设备上运行Linux。
Ryan:我完全同意你的观点。从你的角度来看,当涉及到与客户或整个行业合作时,你遇到或见过的最大挑战是什么?
Jason:我首先要说的是,技术面临的最大挑战与技术无关,而是人员和商业案例,我们需要联系其他人。如果采用物联网技术,没有任何技能,这不是我开展的工作,这让我很害怕。但只要有价值,事情就会发展。
我们已经发现了越来越多的例子,只是有些支离破碎,但情况正在好转。当我们谈到平台发展时,边缘计算一直是个问题。人们喜欢把边缘计算看作是一种事物,而这些不同的范式有着内在不同的权衡。
我认为,现在有了边缘计算,供应商试图推动他们的平台走在实际用例的前面,这会让终端客户感到困惑。我认为,它变得具有挑战性,我们认为这总是发生在任何新技术趋势的早期,然后努力克服这些问题,获得更多的价值。
联系用户并跟进
Ryan:当我和客户谈论物联网和边缘计算领域的挑战时,这很有趣。就像行业的碎片化是一个很大的问题。商业案例的正当性和诸如此类的事情总是出现在企业内部。似乎有很多这样的公司。当涉及用户构建和采用解决方案时,选择一家公司是非常重要的一部分。对于那些想要了解更多信息的听众来说,他们希望解决遇到的问题,他们能做到这一点的最佳方式是什么?
Jason:如果用户有兴趣,可以直接联系我们或者给我们发邮件,如果用户正在开发做嵌入式产品,或者有兴趣将其云计算能力扩展到边缘计算设备上,我们愿意提供帮助。