图灵奖得主、深度学习之父Geoffrey Hinton的下一程,定了!
刚刚,Hinton亲自宣布,将加入机器人初创公司Vayu Robotics,担任顾问一职。
消息一出,网友们一水儿的Congratulations!
还有人说,这回机器人管家更有希望了。
今年5月,Hinton突然从任职十载的谷歌离职,轰动整个科技圈。
他本人当时表示,这么做是为了可以自由地讨论人工智能风险。
自从离职后,这位AI教父收到邀约不断,但都没能吸引到他——直到Vayu Robotics出现。
所以这家名不见经传的初创公司,凭什么?
Hinton给出的理由是,它们的技术路线和其他很多AI应用相比,AI道德风险更低。
当然Vayu Robotics自身实力也很强。
最近它们刚刚浮出水面,便拿下1270万美元种子轮融资(折合人民币约9271万元);创始团队成员也都来头不小,被英伟达AI科学家Jim Fan称为业内的“big names”。
不过还有一点非常关键——Vayu Robotics的CTO尼蒂什·斯里瓦斯塔瓦(Nitish Srivastava)为Hinton门下弟子。
他博士毕业于多伦多大学,在此期间他和Hinton等人共同提出了神经网络中最常被用来防止过拟合的方法之一Dropout,目前论文被引次数已超过46000次。
这也是为啥Hinton说,这一回是和Nitish的再次合作。
而这也不是老爷子第一次和学生联手创业了。
当年Hinton会加入谷歌,正是因为谷歌收购了他和学生共同创办的DNNResearch。
Vayu Robotics是谁?
所以,情况类似的Vayu Robotics,同样不可小觑。
这家初创公司成立于2021年,直到最近才偷偷杀入众人视野,首条官宣消息就是拿下1270万美元种子轮融资,在圈内立刻引发不小轰动。
虽然公司名字中带有机器人(Robotics),但是Vayu Robotics强调自己是“一家AI公司”。
Vayu是梵文中“智慧”的意思。
它使宇宙中所有的运动和所有能量活动成为可能。
公司在传感器、机器学习和产品开发三方面布局,旨在提供高质量、低成本的机器人。
目前已经开发出了一个小型送货机器人。
Hinton透露,这种机器人消耗的能量仅为汽车(时速50英里)的1%,而且刹车距离很短,能具备更高的安全性。
Vayu表示这个机器人基于纯AI视觉方案,没有使用激光雷达、高精地图。
通过仿真模拟训练,它能基于少量真实图片训练后上路。
Vayu Robotics强调他们以自动化为第一原则,会优先考虑机器人的成本和部署问题。
目前也在开发自动驾驶基础模型和传感技术。
最新拿下的种子轮融资,将用于多个领域的AI机器人开发,包括无人配送、工厂、汽车场景。
公司创始阵容非常豪华。
CTO为Hinton弟子尼蒂什·斯里瓦斯塔瓦(Nitish Srivastava)。
除了和Hinton共同提出了大名鼎鼎的Dropout外,他还参与开发了最早用于无监督视频学习LSTM模型。
其参与创办的Clarevision Research被苹果收购,随后他一同加入苹果,担任研究科学家,负责感知与规划相关的自主系统开发。
2022年他正式加入Vayu,成为联合创始人之一。
公司CEO为阿南德·戈帕兰(Anand Gopalan)。
这位工业界大佬在创办Vayu前,曾是激光雷达巨头Velodyne Lidar的CEO。
阿南德早期为集成电路工程师,曾先后在川崎微电子、Rambus任职。
2016年正式加入Velodyne Lidar。最初担任CTO,负责监督技术和产品开发,2020年后担任CEO。
2021年阿南德离职,开始创办Vayu。
另一位联合创始人马赫什•克里希那穆提(Mahesh Krishnamurthi)也曾在苹果和美国第二大打车应用公司Lyft任职。
结合Vayu Robotics的背景来看,Hinton决定加入其中担任顾问,也就不那么意外了。
相较于大模型等,Vayu想做的无人配送机器人、工厂机器人等,涉及的AI伦理问题更少,落地路线更加安全;而且还有实力超强的创始团队领衔。
要知道,Hinton被誉为“人工智能教父”,长期关注AI技术的应用和管控。
他人生中每次重大选择,都是希望能让如此强大的AI技术,确保可以被可控利用。
今年离开谷歌是出于这样的考虑。
最早加入谷歌亦是如此——当时DNN Research的收购中,谷歌并非出价最高的那一个。Hinton选择谷歌,也有这方面原因。
包括更早之前离开卡内基梅隆大学,选择去多伦多大学任教,也是因为不想拿军方经费做研发,让AI为军事所用。
回到最近来看,在过去5个月的GAP中,Hinton的动向也都围绕探讨人工智能风险展开。
5个月空窗期,Hinton都在干啥?
此次加入Vayu机器人公司,距离Hinton离开谷歌已经过去了5个月。
今年5月,Hinton官宣离职,辞去谷歌的副总裁和工程研究员职务,结束了自己在谷歌的十年工作生涯。彼时《纽约时报》爆出消息,Hinton在4月提出了离职。
辞职的理由一言以蔽之,是对人工智能风险的担忧。
他在推特上明确表示,选择离开,“是为了可以自由谈论AI的风险”。
这就不得不说到Hinton对AI风险的浓烈隐忧。
啥原因呢?一方面是他深感AI将对就业市场造成巨大影响;更进一步的,他非常担心有朝一日那种具有自主能力的杀手机器人,会成为现实。
Hinton谈到,AI实际上可以比人类拥有更聪明的想法,但他没料到AI的发展速度会像过去几个月那样一日千里。
本来在他眼中,达到这种速度和高度,怎么也得要个三五十年的。
这样的发展速度加重了这位深度学习之父的忧虑,甚至直言不讳:
我对自己毕生的工作,感到非常后悔。
我只能安慰自己说,如果我没有这么做(推动AI的发展),还会有其他人。
作为图灵奖得主,又是深度学习三巨头之一,Hinton的此番言论果然引起了轩然大波。
许多人表示对此不理解,跑到他的推特下激情发问,认为控制AI的风险不应该是延缓发展它,而是有别的什么办法。
言论风波也波及了前东家,毕竟谷歌现在正在大模型时代激流勇进。谷歌研究首席科学家、高级副总裁Jeff Dean不得不出面发表了份声明:
我们仍会坚持对AI采取负责任的态度。我们在不断学习理解新出现的风险时,也在大胆创新。
离职后的Hinton对AI风险的担忧并未停歇,并且持续在公开露面中持续对外输出。
6月,Hinton主要在两个地方发声,一是国内的智源大会,二是和吴恩达的对话。
在智源大会上他表达的观点是,超级智能会失控,但目前他还想不到什么好的方法阻止它们:
一旦它(超级智能)变得善于欺骗人,就能掌握让人们做任何事的方法……我觉得这很可怕,但我看不出如何防止这种情况发生,因为我老了。
我希望,像你们这样的年轻有才华的研究人员,会搞懂我们如何拥有这些超级智能,并让我们生活得更好。
仅仅时隔几天后与吴恩达的对话系列,聊的也是——
AI究竟存在哪些风险?
Hinton继续拉响着AI风险的警报,主要输出了两个观点:
第一,所有科学家必须针对“AI风险”议题好好聊聊,以便于制定良好的政策;
第二,AI确实在理解世界。科学家们需要列出其中的关键技术问题,这有助于在AI安全议题上达成共识。而达成共识的关键点,是“GPT-4和Bard这类对话大模型是否真的理解它们自己在说什么”
6月之后,Hinton整个人呈现出了一种“半退网”状态,既没有在社交平台或媒体采访中频繁出现,也没有公布自己下一站到底去哪。
但这样一位巨佬仍然被外界聚光灯紧紧锁定。
9月,《时代》周刊发布世界AI最具影响力人物榜,齐聚100位学界业界大咖。
Hinton和其他2位深度学习巨头一起,位列“思想者”之列,并且是上榜人士中,年纪最长者(76岁)。
等老爷子再一次公开露面,是3天前接受媒体《60分钟》的采访。
他肯定了AI做出的贡献,但还是再次表示了对AI可能会接管人类的担忧。
Hinton这回是这么说的:
随着AI对更复杂任务的处理,对于人类而言,其内部运作会变得越来越神秘且不可知。
AI有一天可能会取代人类。我不是说这事儿一定会发生,但如果能阻止AI永远不想这样做,那就太好了。
此外,他的担心又新增了一项,那就是怕AI系统会自己编写代码,对自己进行修改——这么一来,人类更有可能失去对AI的控制了。
最后,Hinton语重心长地说,是时候了!
是时候该进行实验来更好地理解AI,并通过法律来确保技术被合理使用。
如今,已经75岁的Hinton显然还没打算退休,要在把控AI道德和风险的道路上继续身体力行。
由此我们也可以期待,他和“年满2岁”的Vayu Robotics,未来会擦出哪些火花?