AI教父辛顿获得诺贝尔物理奖采访内幕流出：“我怎么确定这不是一个欺骗电话？” 原创

发布于 2024-10-9 18:38

浏览

0收藏

整理 | 言征

10月8日晚间，2024 年诺贝尔物理学奖得主公布，名单非常令人惊讶，两位得主John Hopfield（约翰·霍普菲尔德）、Geoffrey Hinton（杰弗里·辛顿），并非是发现了类似相对论、量子力学等惊世的物理学规律，而是因为对于AI的基础性贡献。

不要说大众觉得很“诡异”，就连辛顿本人接到通知电话时也觉得是诈骗。

凌晨的时候，辛顿在加利福尼亚州的一家酒店房间里接到了来自瑞典斯德哥尔摩的电话，他第一时间想到的是：我怎么确定这不是一个诈骗电话。

最后，辛顿通过电话那头的多种瑞典口音（而非单一的模拟口音）来确信他的诺贝尔物理学奖是真实的。

在他得知该奖项后录制的这次采访中，他谈到了机器学习的现状、对安全研究的迫切需求，以及他希望该奖项可以让人们更认真地对待他所表达的恐惧。

以下是诺贝尔奖网站采访者亚当·史密斯（Adam Smith）与辛顿的电话交谈记录：

1.辛顿正在酒店里没有网络，电话信号也不好

辛顿：你好？

史密斯：哦，你好。我是否与 Geoffrey Hinton 交谈？

辛顿：是的。

史密斯：我是亚当·斯密（Adam Smith）从诺贝尔奖网站打来的电话。

辛顿：好的。我知道你是谁，因为很久以前我注意到他们有人打电话来了解人们的反应。

史密斯：没错。那么，我们能聊几分钟吗？

辛顿：是的。

史密斯：真的非常感谢你。首先，当然。非常祝贺。

辛顿：谢谢。

史密斯：那么，你在哪里？在哪里得知的这个消息呢？

辛顿：我在加利福尼亚的一家便宜的酒店里，没有互联网连接，电话线也不是很好。我本来打算今天做 MRI 扫描，但我想我得取消。我甚至不知道我甚至被提名了诺贝尔物理学奖。我非常惊讶。

2.我怎么确定这不是诈骗电话

史密斯：听起来，在某种程度上，这是一个相当明智的接收新闻的地方。因为你有点孤立。你可以在一天的洪水之前收集你的思绪。

辛顿：是的。另一方面，现在是凌晨两点。

史密斯：哦，天哪。是的。对不起。是的。呃，天哪。我不知道你有没有......

辛顿：我想现在已经三点了。

史密斯：。。。我不知道你是想回去睡觉，还是你不得不接受这一天将是漫长的一天。

辛顿：是的，我不认为我有那么多的愤怒。

史密斯：嗯，真是个惊喜。什么，你的第一个想法是什么？

辛顿：我的第一个想法是，我怎么能确定这不是一个欺骗电话。

史密斯：然后呢？你怎么确定的呢？

辛顿：电话来自瑞典，那个人有很重的瑞典口音，而且不止一个人。

史密斯：是的。所以它必须是一群模仿者，我想这不太可能。

辛顿：是的。

3.如何介绍当时的自己？试图理解生物学的物理学家？

辛顿：我不太了解

史密斯：你会如何描述自己？当你做这项工作时，你会说你是一名计算机科学家，还是说你是一名试图理解生物学的物理学家？

辛顿：我想说的是，我是一个不太了解自己在哪个领域的人，但想了解大脑是如何工作的。在我试图了解大脑如何运作的过程中，我帮助创造了一种效果出奇地好的技术。

4.AI与气候变化、克隆技术不同，我们对它知之甚少

史密斯：值得注意的是，我想你已经非常公开地表达了对这项技术可能带来什么的担忧。您认为需要做些什么来减轻您和其他人所表达的恐惧？

辛顿：因此，我认为这与气候变化颇为不同。对于气候变化，大家都知道需要做什么。我们需要停止燃烧碳。这只是个政治意愿问题，以及大公司赚大钱却不愿这么做的问题。但你需要做什么是明确的。而我们目前所面对的情况，我们对即将发生什么以及如何应对所知甚少。所以，我希望能有一种简单的办法，只要照做，一切都会好起来。但我没有这样的办法。特别是考虑到这些事物失控并占据主导地位所带来的生存威胁，我认为我们现在正处于历史的一个分叉点，在接下来的几年里，我们需要找出应对这一威胁的方法。

因此，我认为现在人们研究如何保持控制的问题至关重要。我们需要在这方面投入大量的研究精力。我认为政府可以做的一件事是，迫使大公司将其更多资源用于安全研究。这样，例如，像OpenAI这样的公司就不能再把安全研究放在次要位置了。

史密斯：这与生物技术革命时期的情况是否有相似之处，那时，生物技术的从业者们齐聚阿西洛马会议，坐下来讨论说，你知道，这里存在潜在的危险，我们需要，我们需要自己来解决这个问题？

辛顿：是的。我认为这与此有相似之处，我认为他们所做的非常好。不幸的是，AI 还有更多的实际应用。还有生物学家试图控制的事情，比如克隆。所以，我认为这会困难得多。但我认为生物学家所做的是一个很好的模型。令人印象深刻的是，他们设法达成了协议，科学家们做到了。

史密斯：所以，例如对于大型语言模型，我认为导致你恐惧的是，你觉得这些模型比很多人说的更接近理解。当谈到诺贝尔奖在这一领域的影响时，您认为它会有所作为吗？

辛顿：是的，我认为这会有所作为。希望当我说这些事情时，这让我更可信，确实理解他们在说什么。