本文转自雷锋网,如需转载请至雷锋网官网申请授权。
又一技术大咖离开业界,前往高校攻关科研!
据Pete Warden(皮特沃登)本人推特消息,他将离开谷歌公司,重返斯坦福大学攻读计算机博士学位。
皮特沃登是谷歌公司Tensorflow面向移动和嵌入式设备部分的技术主管,也是 Tensorflow团队的创始成员之一。著有《TinyML》一书,希望让机器学习不再囿于云端超级计算机,而是可以被隐藏于众多小到可以被忽视的电子零件中。
至于离开谷歌的原因,皮特沃登说:在谷歌推出新的硬件设备“太难了”,因为一旦失败会对大公司声誉造成非常大的影响。
“it’s very costly and time-consuming to launch new hardware devices at Google, because the downsides of a failed or buggy launch to any large company’s reputation are so high. ”
据悉,皮特沃登已经离开校园二十年了,此次重返校园虽然有些冒险,但对“自己能够构建一些东西”有帮助。
皮特沃登还在个人博客写了一篇文章,表达了离开谷歌的前因后果:
我在谷歌工作了7年,这段时间里,很幸运也很自豪能够和一些了不起的人一起研究TensorFlow等项目。在过去几年里,我一直在说“你可以用TensorFlow Lite Micro实现所有美好的TinyML项目”,现在我自己终于也可以随心所欲的尝试构建自己的东西了。在谷歌我也尝试过,但在谷歌推出新的硬件设备是非常昂贵和耗时的,因为一旦失败会对其声誉造成非常大的影响。因此,时隔二十多年,我决定重返校园,去斯坦福大学攻读计算机科学博士学位。过去几年,我在斯坦福大学教授EE292D课程,在这过程中,我从学生对新技术渴望的热情中收获了很多,而且也从Zain Asgar、Sachin Katti、 Boris Murmann等教师身上学到了很多。现在我很高兴能够有更多的时间从校园中度过。TensorFlow Lite Micro在Advait Jain和团队其他成员的带领下非常出色,使用量和人数在过去几年持续增长,所以我对它的未来非常乐观。过段时间,我会公布更多细节,但我现在能够使用将框架部署到”我从项目一开始就梦想的设备“上了。
离开谷歌,重返校园是一次有趣的新冒险,感谢支持我走到这一步的所有人。
1 皮特沃登和他的TinyML梦想
正如前面提到,皮特沃登是人工智能领域的专家。2003年他创建了一组包含45 个图像的处理过滤器(processing filters ),这些过滤器能够在 2003 年的笔记本电脑上以 30 fps 的速度检测视频内容中的特征。当时Apple 购买了该技术并聘请他将其集成到 Apple 的成像相关产品中。
2011年,皮特沃登联合创办Jetpac,担任CTO。当时他开发了一款独特的产品,能够分析了 Instagram 上超过1.4亿张照片的像素数据,并将其转化为全球 5,000多个城市的深度指南。2014年,谷歌收购该公司。
加入谷歌之后,皮特沃登专注于在成本和功率受限的系统中部署机器学习。在谷歌,Pete 领导开发用于移动和嵌入式应用程序的 TensorFlow Lite 机器学习框架。
这种在一些“不起眼的硬件”中构建机器学习被行业称为TinyML(Tiny Machine Learning)。TinyML 的目标是以尽可能低的功耗执行 ML 推理。具体而言,正如皮特沃登在其著作提到的那样:TinyML 的目标是在低于 1 mW 的功耗下运行。1 mW是标准纽扣电池运行功率。
TML示意图
因此,TinyML 是机器学习和嵌入式 IoT 设备的交叉领域,是一门新兴的工程学科,具有革新许多行业的潜力。显然,TinyML 的主要受益者,是边缘计算和节能计算领域。
2019年3月,TensorFlow Lite嵌入式平台发布了第一个实验原型。这是由SparkFun构建的开发板的原型,它有一个Cortex M4处理器,具有384KB的RAM和1MB的闪存存储。该处理器功率极低,在许多情况下功耗不到1毫瓦,因此它可以仅凭小型纽扣电池运行很多天。
目前,TinyML还处在发展阶段,正如皮特沃登在一次演讲中所提到:
“未来的世界有更多的可能性,现在人工智能对于我们,就像八十年代的电脑一样。我们不知道它会发展成什么样子,但是我们可以想象一下我们目前面对的各种问题和挑战,在工作中面临的困难。如何用小小的芯片进行机器学习?这方面我们可以有新的角度去探索,也有新的研究成果去发挥作用。”
2 反映了怎样的趋势?
皮特沃登在业界已经探索了二十年了,今日他选择离开企业,选择重返校园,无疑是对当前AI研究人员纷纷重返学界这一趋势的印证。
这一趋势最早从吴恩达开始,随后李飞飞、张潼、张亚勤、贾佳亚等科学家也不断重返学校。
而在几年前,对应的正是AI基础研究者纷纷离开学术界,加盟工业界:代表性的标志事件是在2011年的NIPS大会上,Hinton接受了Google的邀请,正式加盟Google;此后Facebook、Amazon、Uber以及国内百度、阿里、腾讯、滴滴等巨头也纷纷跟进,而另一方面,产业界所能提供的海量数据以及资源投入对于AI研究者也具有莫大的吸引力,长期从事理论研究的他们也需要一个平台验证他们的想法,这也正是当时AI人才从学术界流向产业界的原因。
现在这些AI大牛从产业界重返学术界,有人将其视为AI科学家的“水土不服”,并进而得出“AI热度正在放缓”的结论。但从另一个角度上,我们也可以看到这些科学家们在产业界检验了自己之前的研究之后,带着新的问题回到学术界开展新的研究。
例如,原腾讯AI Lab主任张潼在被问及为什么回归学术界时,他回答:“我最关心的是10年以后, AI能够在技术理论等方面实现重大的突破,并且自己能够在整个学术研究上有更多的贡献。” 而对于加入创新工场,张潼则表示:“我在进行学术研究的同时,也希望这些学识成果能够跟产业相结合。”另一位AI大牛贾佳亚,在离开腾讯优图之后并未远离产业界,而是成立了一家创业公司思谋科技,以另一种方式做到连接学术与产业。
拿AI届的黄埔“微软亚洲研究院”来说吧,他几任历任院长中,李开复创办了创新工场,以孵化器模式推动中国本土的科技与AI公司的发展;张亚勤牵头筹建“清华大学智能产业研究院(AIR)”,回归学术界并得到了马维英的襄助,“出走半生归来仍是少年”;沈向洋在担任清华大学兼职教授的同时,也还投资并担任News Break董事长;而进入投资界的张宏江,更是在以资本投票的方式践行着对AI的认知。这些顶尖人才的流动,无论是从学术界到产业界,还是从产业界到学术界,最终都是AI的进步。