OpenAI Altman圆桌：AGI可以创造100万亿美元财富，十年内世界GDP翻一番 原创

出品 | 51CTO技术栈（微信号：blog51cto）

OpenAI CEO Sam Altman 和好友 Airbnb CEO Brian Chesky 与 NBC 主持人 Lester Holt 展开了一场圆桌讨论。对话广泛涵盖了人工智能 (AI) 在日常生活和工业应用的各个方面的普遍影响，强调了AI能力的不断增强将给社会带来的广泛变化。Altman提到，希望AI技术持续给人类带来利益，让他们在自己所做的事情中发挥出最佳状态。以下是经过整理的圆桌全文：

1.AI技术的渗透：每个行业都将被AI改造

主持人：感谢大家来到这里。我对这次谈话感到非常兴奋。首先，我想介绍一下两位嘉宾的好友关系，你们的工作在一些重要项目和事情上有过合作。所以我们也会探讨其中的一些问题。如果你想知道为什么他们两个会一起出现在这里，这就是为什么。非常感谢嘉宾的时间。让我从一个角度来看，山姆，你认为今天有多少观众以某种方式与AI互动？

Sam Altman：我敢打赌……

主持人：顺便说一下，我不打算让你为预测结果负责。

Sam Altman：大约90%的观众。

主持人 ：我们大多数人甚至都不知道它在哪里影响了我们的生活。

Sam Altman：是的，你知道，有些人使用ChatGPT，但你不清楚你是否在使用它，因为太多人通过采用我们的GPT-4或者其他模型，将AI集成到他们的其他服务中。你知道，这有点像是提升了很多服务。

主持人 ：在过去的一年里，AI是否已经越过了一个关键的门槛？

Sam Altman：我认为是的，但我认为人工智能将跨越许多门槛。你知道，我们曾经，布莱恩实际上在这方面给了我很好的建议。我们曾经谈论过我们将会到达这个像AGI一样的时刻。而且，你知道，这是一个非常不明确定义的术语。我认为一开始就没有感知以那种方式思考它。但我们过去是这样的，现在我们考虑它，因为它只是这一系列的门槛，系统将获得新的和新的，更好的和更好的能力。所以，你知道，今天你可以使用聊天来处理一些事情，将来你可以用它来完成更有用的任务。

你知道，也许今天有一些东西，比如……，我们的一个合作伙伴，Color Health现在正在使用GPT-4进行癌症筛查和治疗计划。这很好。也许未来的版本将有助于发现癌症的治疗方法。所以我认为它是连续的门槛，但事实上，我们可以用自然语言与计算机交谈，让它们理解我们并帮助我们，这肯定是一个门槛。

主持人：我想谈谈最近在新闻中看到的一些事情，并得到你的反应。有时。你很快就交了朋友和敌人。最近你和苹果达成了一笔大交易。埃洛·马斯克感到不满，表示他不会允许苹果产品出现在他的公司。你看到那种反应了吗？

Sam Altman：我看到它发生了，但，我有点怀疑这事是不是真的会发生，但我预测错了。

主持人：在OpenAI的边缘地带，其他科技公司对这一现象的反应是否可以视作一些正在发生的事情？

Sam Altman：不，我认为这就像通常的埃伦反应一样。

主持人 ：布莱恩，让我转向你。AirBNB最近选择了一家AI创业公司。我们现在是否处于每个科技公司都必须参与这项行动、建立合作伙伴关系或制定自己的发展计划的阶段？

Brian Chesky ：是的，我的意思是，我认为就像现在一样，几乎世界上的每家公司都在互联网上。AI将完全嵌入我们所做的一切中。

Brian Chesky：我认为山姆令人难以置信的一件事是，就像山姆曾经说过的那样，如果你想成为一个伟大的企业家，你必须在职业生涯中的一件大事上做得正确。我认为山姆对科技史上最重大的事情之一的看法是正确的，因为这将是一件比我们过去见过的任何技术都更能影响人们生活的事情。但我认为很多对话，你知道，我们谈论的AI就像存在的、神秘的东西。我认为我们缺少的一件事就是谈论人们可以从中受益的实际方式。

AirBNB是一个例子，但奥特曼也有很多例子。所以今天，AirBNB是你喜欢在城市中输入的一种类型，你可以找到一个住所并预订，这就是AirBNB。这基本上就是过去20年来互联网的运作方式。

但想象一下未来，系统会更好地理解你。这就是真正的承诺。一台能够理解你的电脑，他们会问你，好吧，你是谁？你的希望是什么，你的梦想是什么，你想去哪里旅行？有一天你想用自己的人生做什么？然后它可以真正理解你，成为更好的媒人，真正理解你，并将你与人、社区、服务、经验、任何你想旅行和生活在世界任何地方的人匹配。

这就是我认为AirBNB可以使用的方式。但我认为几乎每个行业都可以通过AI进行改造，而且我认为他们可以参与其中。

2.理解大众对AI的恐惧，AI安全要设置红线

主持人 ：但这里的利害关系比你所说的更重要，我的意思是，你所谈论的主要是抱负。但是有了AI，你会看到一些真正的恐惧，我认为我们都理解这是什么意思。那么，对于运营这个项目的人来说，这意味着什么呢？他们只是这辆公共汽车上的乘客，正在看着你们做这些不可思议的事情，谈论它与曼哈顿项目（编者注：二战期间美国主导的计划，旨在研制原子弹）相比，想知道它将走向何方，想知道谁是背后的人？我们能相信这些人吗？所以，如果可以的话，谈谈道德责任，让我们所有人了解这些人，了解像你这样正在做出这些改变的人。

Brian Chesky：是的，我的意思是，我可以分享它。我，你知道的，我在2008年遇到了山姆，当我来到硅谷时，“技术” 这个词可能就像 “好” 这个词的字典定义一样。我的意思是Facebook是一种分享朋友照片的方式。YouTube就像是一个看猫视频的地方。推特就是在谈论你今天要做的事情。我认为有一种普遍的天真无邪。

我认为随着时间的推移，我们意识到的是当你拿一个工具时，我认为技术就是一个工具，你知道，史蒂夫·乔布斯说过的一件事是，他在每台电脑后面加了一个手柄，因为他说，永远不要相信电脑，否则你会想把它扔出窗外。他说，这些都是工具，我们注定要主宰它们。他们不会主宰我们。

我认为发生的其中一件事是，当你把工具交到亿万人手中时，你知道，他们会以你不打算使用的方式使用它。我认为在这个新一代中，我们更加清醒和现实，因为我认为我们学到了上一代的很多教训。我们了解了技术如何被广泛使用，但总会产生意想不到的后果。所以我认为这一次，我看到山姆做的一件事是他对这项技术的发展非常谨慎，一点也不悲观，并真正告诉政府实际上需要监管。

主持人：山姆，我想要得到你的理解，给你一个机会谈谈你的解雇。你被自己的公司解雇了，为什么。

Sam Altman：让我先谈谈布莱恩在你之前的问题中所说的一些话，然后我很乐意谈谈这个问题。这将是社会的一个巨大变化。与其他技术趋势不同，我们有点意识到，即使今天我们像，ChatGPT是非常有用的工具。而且，你知道的，一旦我使用它，我就不会害怕它。关于AI将走向何方，存在着感知可以理解的巨大焦虑。如果这些工具以它们一直在变得更有能力的速度不断提高，并且有很多令人惊叹的事情发生，这意味着什么？我们可以花费一整天的时间谈论这个主题。

Sam Altman ：但即使我们解决了每一个安全问题，即使我们解决了每一个滥用问题，即使我们找出了完美的监管制度，未来会是什么样子？当计算机不仅理解我们、了解我们、帮助我们、做这些事情，而且我们可以说，嘿，计算机，像发现所有的物理学，它可以去做这些事情时，我们的生活会是什么样子？当我们可以说 “嘿，开始并经营一家伟大的公司” 时，这意味着什么？它能做到那个？这是一个很大的改变。我们必须赢得很多信任才能成为这些技术的管理者之一。会有很多其他人在研究这项技术。

我们为我们的业绩记录感到自豪。我认为，如果你看看我们推出的系统以及我们所花费的时间和关注，我们已经能够将它们达到普遍接受的稳健性和安全性水平，这远远超出了几年前我们推出这些初始系统时人们认为我们能够做到的程度。就像当你看着GPT-2或GPT-3时，我们是否能够让它足够安全地使用？很多人认为，不，但是里面有这个东西，有这个，未来就像隐约可见的大。

我们必须继续用我们所做的事情赢得信任，用我们在世界上建立的系统，以及我们如何对这些系统进行合法决策，如何广泛地赋予人们权力，面对所有这些变化，我们如何继续促进世界的稳定。这让人们非常焦虑。就像整个董事会将我解雇并最终重返的事情所展现出来的那样。布莱恩在那期间帮了我很大的忙。

这显然是一次超级痛苦的经历，但我确实理解为什么焦虑水平如此之高，我认为之前的董事会成员，就像他们对AI的持续发展感到紧张一样，对我和我们的做事方式有任何感受。尽管我非常不同意他们的想法，以及他们自行为以来所说的话，但我认为他们从根本上就像是好人，他们对未来感到紧张，并试图找出我们如何获得好的结果。

我对新的董事会非常兴奋。他们非常有建设性、乐于助人、经验丰富且坚强，从那时起，这是一件非常富有成效的事情。但那是一次可怕的经历，而不是在那一刻，就像这是一件疯狂的事情一样。让我们想出如何消除它，布莱恩对我非常有帮助，但在那之后的一段时间里，我不得不在这种情感冲击的状态下收拾残局。

主持人：那真的很糟糕。你在试图收拾残局。而布莱恩特当时和你通了电话。

Brian Chesky：解释一下原因？也许只是追忆一下过去，当ChatGPT发布时，它是在2022年十一月底发布的。这是自iPhone推出以来我们可能从未见过的现象。我什么都不记得了。我只记得一夜之间一切都改变了。

我记得与Sam见面时，我说过，你知道，我之前有一点类似火箭般的经历，我不会就AI的核心研究给你建议。但是当涉及到市场营销、利益相关者管理、公关、设计、产品和所有其他方面时，你们不会像坐上一艘火箭一样飞速前进。而我之所以处在今天的位置，是因为人们相信我，人们帮助了我。硅谷的一大优点是它是一个高度信任的地方，人们会在这里提供帮助。所以我只是想帮助他（薄弱的地方）。

所以这种情况持续了大约一年，已经是一年之后了，我得到了一个短信息，实际上是有人说山姆被解雇了。我就像被解雇了一样。我立刻给他发短信，我想他发短信给我的时间是五分钟后。他刚刚发现自己被解雇了，他说得很残忍，我就去问，发生了什么事？所以我们接了电话，他不知道发生了什么，向他解释道，顺便说一句，他的联合创始人，也曾是董事会成员，被从董事会中除名。这对我来说似乎非常可疑。所以我和他和格雷格通了电话，我对这种情况感到非常不舒服，认为这不是一个公平的过程。我认为这应该是一个公平的过程，尤其是如果董事会成员是创始人的话，他们应该非常难被替换。

在最初的24个小时里，我注意到的是，没有多少人支持山姆。而在我最黑暗的危机时期，有人支持我，这就是我想为山姆做的事情。我基本上，我们讨论了一些事情，我说我认为对你来说最重要的事情就是在内部和外部对你所知道的和正在发生的事情保持完全透明。但最值得注意的事情，也是让我真正想要为他辩护的事情是，你知道，你学到了很多关于危机中的人的东西。如果你真的想知道是否有人想看到他们处于危机之中，并且在这五天内从未发生过这种情况，山姆是否甚至有一秒钟的时间专注于自我保护。

他完全，我就像，你为什么不专注在这里？你为什么不更关心自己呢？这就是我对他说的。总得有人支持你。你甚至为自己而坚持。他非常专注于团队，专注于什么对团队最好。我认为这就是真正让我如此强烈地专注于帮助的原因。

主持人：如果我能转向你最近收到的一些不好的宣传，包括Sky声音带来的一些传闻，我想把山姆的形象抹黑了。有一件事可以帮助消除对于Skys与Scarlett Johansson的相似性的担忧，那就是听听你所说的被聘请为Skys配音的演员的意见。这是你会做的事情吗？

Sam Altman：当然，如果她想的话。我的意思是，我知道Scarlett通过经纪人发表了声明，但我没有。我不，我不知道我的意思，她想做的任何事我们都可以接受。

主持人：整个事情打开了，当然还面临一个更大的问题，我们拥有什么？在一个AI世界中，我们可以控制我们的肖像吗？我们现在看到的，你知道的，深度假色情片，你知道的——人的脸被替换了。这些在个人层面上是有害的，我知道这并不是OpenAI独有的，但这个行业将如何回应呢？

Sam Altman：我的意思是，我们认为行业需要在这方面采取超级强硬的态度。我们显然是这样做的，还有其他与这项技术如何被用来伤害人们相关的问题，我们认为该行业需要采取非常强硬的立场。我们不仅试图大声呼吁监管，以防止一些滥用和滥用的情况，我认为这些情况正在发生，而且还试图在我们提供的产品和服务中树立一个非常好的榜样，并坚持自己。

主持人：非常好。但是这些事情是不可避免的吗？我的意思是，随着这项技术的成熟，你清楚地看到了风险，就像深度造假之类的东西。

Sam Altman：是的，这项技术将不可避免地具备这样的能力。所以，你知道，当然，它们将是被允许这样做的系统，但我认为这就是我们社会和政府可以发挥作用的地方，你知道，我们将允许一些我们不提倡的技术用例。但在某些地方，我们将画一条底线，深度伪造的报复性色情应当被划出界限。

主持人 ：我们即将举行总统选举，正如你所知，我们已经看到一些深层次的伪造正在发生。多年来一直有人谈论这将是一场非常艰难的选举。当你开始看到这些东西出现时，你有什么想法？就你的责任而言，你所在的行业有责任确保我们不会被虚假信息淹没？

Sam Altman：是的，所以，你知道，我认为这将是第一次不仅有美国的选举受影响，还有许多其他的选举，在这些选举中，AI成为了一个重要的技术元素。来源非常重要，准确的民意调查信息，并避免我们在以前的技术平台和其他选举周期中看到的一些问题。而且，你知道，防止像深度造假这样的事情，我认为这是我们在这个选举周期中最重要的三个问题。我还会补充一点，可能还有其他的事情，人们试图滥用的方式，我们还没有意识到的滥用方式。所以我们建立了一个完整的监控措施，我认为随着选举的临近，我们需要一个非常紧密的反馈循环，看看是否还有其他人们试图滥用技术的领域。

主持人：当我们谈论选举的话题时，布莱恩，你先开始吧。你认为这次选举的结果会对你的个人企业产生什么影响？

Brian Chesky：很难说。我的意思是AirBNB更像是一个城市，一个州。因此，联邦政府的变化在历史上并没有对我们产生巨大的影响。我们当然在220个国家中有业务，所以我们是一个相当有弹性的企业。我的意思是，我们在疫情期间看到的一件事是，当我们业务的一个部分发生变化时，它会从另一个部分取得平衡。所以我不认为根据谁当选会发生真正的大变化。你呢，山姆？

Sam Altman：我确实预计我们选举后会产生一些重大影响，但我不知道如何做到。我不知道会是什么。在我看来，像AI一样将成为世界上越来越重要的地缘政治优先事项，但我很难说它将如何发展。

关于Brian，我真正珍视的一点是，Brian在他之前提到的那第一年，有点轻描淡写了他对我帮助的作用之大。当ChatGPT开始起飞，一切都为我疯狂起来时，很多人都联系我说，哦，我很乐意帮助你，我可以做这个，我可以做那个。你知道，每个人都忙碌，我想他们说的时候是认真的，但每个人都很忙。Brian就像是那个每隔一周会坐下来跟我聊三个小时的人，给我倾听，然后说，现在你得做这五件事情，这里你落后了，这里你搞砸了，这里你要主动做，这里你要考虑一下。这基本上几乎总是正确的。我学会了静静地听取这些建议，跟随Brian开始说的一些事情。

最近更重要的是，你可能没有足够考虑政治和政策，以及这对世界如何看待人工智能的影响。这里是你需要雇佣的人才。这里是，你需要像是制定这个计划并思考战略一样的意义。这里是你应该做和绝对不应该做的事情。这些都非常有帮助。我确实认为对我们的业务来说，这将非常重要。

3.GPT-6或GPT-7的赋能下，个人成就潜力将成倍增加

主持人：我想问一件事情，我们在研发ChatGPT和其他项目时学到的一点是，训练这些模型需要大量的数据。它似乎有一种无法满足的需求。这是否改变了你对什么是公平使用以及可以使用谁的材料合作材料的看法？

Sam Altman：首先，我认为我们还不知道这些模型变得聪明的未来会是什么样子。你知道，我们永远都会需要越来越多的数据吗？我感觉这不太可能是正确的。你知道，如果你想想一个人可以从阅读一本教科书中学到什么，这与目前需要这些人工智慧模型学习的东西非常不同。所以我期望，并且也存在一个点，想要发明新科学，AI只需要坐在那里思考和进行一些实验。但它没有出现在任何教科书中，因为它是新的知识。所以我期待未来我们如何看待训练数据以及让这些模型真正具备能力的方式。

主持人：这是否会成为发展中的障碍？这些是产品吗？

Sam Altman：这就是我想说的。你知道，这就像科学一样，我们并不确定。我认为它不会。话虽如此，关于公平使用的问题，以及如何思考那些创造数据、创造知识、创作出优秀书籍的人，我认为，尽管从法律角度来看，我们对我们的公平使用立场感到有信心，但现在我们看到这可能发展的方向，我们需要找出新的经济模型，让整个世界都能参与其中。

我认为这不仅仅涉及到我们训练数据的人，我们已经找到了许多不同的许可方式和做法，还包括那些向模型提供反馈的人，那些创造出实时新闻的人，也许模型没有进行训练，但你希望在特定时刻显示出来，这需要大量的工作。你知道，我认为人工智能可能会在一定程度上显著改变人们使用互联网的方式。如果是这样，你可以看到一些过去的经济模型正在演变。我认为这不仅仅是关于训练数据的更广泛的对话，而是关于内容的一般性讨论。

主持人：我想问一下关于人工通用智能的问题，它显著地提升了这场游戏的水平。如果我理解正确，AGI就是当计算机能够做我们能做的任何事情时。这样总结是否合理？

Sam Altman：你知道我认为我最初认为这是错误的，就像我们谈论的那样。但在我看来，现在我认为人们使用AGI来表示各种各样的事情。在我看来，试图为世界制定路线图，我们认为能力的显着提高将是AI可以做人们可以做的事情，可以创造新的科学，可以做整个公司可以做的事情。感觉让行业达成一致非常有用，这样我们就可以以更有效率的方式进行这些对话。

Brian Chesky：这就是我们谈论的其中一件事，就像透明地运作，让人们知道这可能不是从人工智能到AGI的普罗米修斯时刻，有很多很多步骤，就像科技更迭的故事一样。而且非常重要的是，我们要带领社会一起前进，不要在这个黑匣子中运作。人们认为只有少数人控制未来，我们对其他开发者、计算机科学家和研究人员以及政策制定者是透明的。这些是我们正在采取的步骤。这就是我们所看到的，这就是我们认为接下来的四个步骤看起来像但并非如此。

主持人：但这不是一个不同层次的竞赛吗？赌注如此之高，当然。我的意思是，你认为自己在参与竞赛吗？你认为你能赢得通向人工通用智能的竞赛吗？

Sam Altman ：我不认为这是场竞赛。我理解为什么把它描述成一场非常吸引人的、戏剧性的竞赛，但我认为可能在某些时候国家之间会存在竞争。然而，目前正在开发这项技术的公司，我认为每个人都明白必须把事情做对的重要性。还有，回应布莱恩的观点，不是说我们都在朝着某个里程碑竞赛。这是技术的持续演变——从把沙子熔化成晶体管，到开发操作系统，进而推进编程能力，现在再到训练越来越智能的系统。这些系统不是自主运行的实体，而是增强我们能力的工具，就像电脑在人工智能出现之前所做的那样，就像工业革命期间的机器所做的那样，就像农业使我们有时间和空间去做更多事情那样。

我不认为这是奔向某个特定目标的竞赛；这是一个不断进步的过程。这些工具会不断改进，但重要的是要认识到，技术和工具本身并不是中立的。我们开发这些工具所能带来的影响是巨大的，因为人们会使用这些工具来创造我们共同生活的未来。即使在ChatGPT出现之前，个人现在所能完成的事情已经非常了不起。展望未来的GPT-6或GPT-7，个人成就的潜力将成倍增加，我对此感到非常兴奋。在我看来，这就是世界不断变得更好的故事——我们制造技术，赋予人们创造的能力，社会因此进步。

主持人：是的，当你谈论这些程序并赋予它们我们所拥有的能力时，我们也有一套价值观，尽管各不相同。我们有时对待常识礼仪的看法并不那么一致。你如何以一种不会有害的方式将这些价值观教给计算机呢？你如何教授积极的价值观呢？

Sam Altman：有一件事让我感到惊讶，我并不是说这能完全解决AI对齐问题，但在我们目前的系统水平上，我们教一个模型一套特定的价值观并使其表现出特定行为的能力，比我预期的要好得多。现在有一个更难的问题，那就是谁来决定这些价值观是什么，谁来决定默认设置是什么，个人用户在这些广泛的界限内可以多大程度地自定义它们？作为早期的一步，我们大约一两个月前推出了一项名为“规范”的东西，我们试图说，这就是我们期望的模型行为，这是我们希望模型遵循的价值观，这样人们至少可以知道，当模型做了他们不喜欢的事情时，这是一个错误还是有意为之。随着时间的推移，社会可以讨论这些价值观是什么，我们可以适应这些变化。所以，我对我们在这个话题上的技术进展感到非常鼓舞，但天哪，写出那套价值观并让社会讨论并达成共识，这是一个更大的挑战。

4.AI与下一次经济腾飞，十年内全球GDP将翻倍

主持人：布莱恩，正如你所说的，你时不时地会给山姆一些建议。我读到过某个地方的一句话，我现在没有确切的引用在手头，至少我现在找不到，但大意是“先去做，再去想办法”。我不知道具体是怎么说的。这种想法是你认为在这种研究上需要大胆去做，有没有什么需要刹车的地方呢？

Brian Chesky ：嗯，是的，我的意思是，如果你想象自己在开车，车速越快，你就越需要看得更远，预判前方的弯道。我认为我们都承认这项技术非常强大，这就是为什么我们如此谨慎的原因。人们确实在苦思冥想如何处理这些系统。我记得我们在2007年、2008年时并没有这么做。所以我确实认为现在是一个非常不同的时代。我和山姆讨论的一件事就是要尽早引入其他利益相关者。你去年做的一件事是环游世界，与人们见面。我认为这主要是一种从人们那里获得反馈、教育人们并真正获得反馈的方法。

Brian Chesky：我认为关键的一点是，莱斯特，我们从来不会快到把社会甩在身后，我们只会以能够带动每个人的速度前进。如果每个人都觉得自己可以参与其中，并且可以提供自己的意见，那么我认为就没有什么可怕的。我认为可怕的是我们不了解的东西，或者我们被排除在外的东西，那些我们无法控制的东西。这是我们不想生活的未来。此外，很有趣的是，如果你说“人工智能”这个词，可能会让人感到害怕。但你说“ChatGPT”，听起来就不那么可怕，因为它是一个非常具体的工具。所以我认为我们也需要关注眼前的事物，思考我们如何能够帮助人们。

现在有很多问题。OpenAI，可以推动大量的科学研究和发现。ChatGPT可以成为艺术家的一个令人难以置信的工具，你知道AirBNB，我们认为它可以真正将人们聚集在一起。我们生活名为“孤独”的巨大流行病中，我们可以利用它来帮助人们团结在一起。归根结底，问题不在技术，而在人。随着技术的发展。它总是归结于人们，他们的价值观，以及他们是好人吗？

Sam Altman：我对此的看法是，我们需要学习如何制造安全的技术，如何开发安全的产品，这包括与社会进行持续对话，比如，“嘿，这个技术产生了我没预料到或不希望的影响。” 还有，“你不让我做这件对我来说非常重要的事情，因为你没有理解其中的原因。” 我们需要与更广泛的世界以及使用和受我们产品影响的人们交流，倾听他们的需求，同时制定一个安全的操作计划，以便我们能够越来越好地预测技术的能力。

当然，研究是一个开放性的问题。你并不总是知道它会去哪里。但在我们开始训练一个新模型之前，我们希望能够说，以下是我们认为可能发生的危险能力。我们有一个准备框架来测试它们。

有时这需要很长时间。例如，从我们完成培训到发布GPT-4，我们有大约八个月的时间，包括很多外部咨询和红队合作。未来的模型可能需要更长的时间，但从社会获得反馈非常重要。我认为有一件事是不好的，那就是让一个巨大的能力过剩建立起来。然后我们还没有与社会建立反馈循环。所以我们确实需要弄清楚如何平衡这一点。但是，你知道，花时间把事情做好是非常重要的。

主持人：你是否曾经倾向于，认为你会倾向于回头去看未来，并发现它可能像一些人建议的那样可怕？你是否准备好迎接这样一个时刻，即使你的竞争对手可能想要前进，你也必须退后一步？

Sam Altman：当然，我们已经建立了一些东西，并选择不发布或长时间保留。有很多其他公司会发布我们不会发布的东西。当然，我们不会让每个决定都正确。我们也可能在某个时候部署一些东西并需要收回它。但也会有一些东西我们只是不部署。

主持人：你知道，我们谈论这些可怕的图像，当你比较AI、曼哈顿项目、制造原子武器的竞赛时，这有帮助吗？当你试图说明你的理由时，这对你有帮助吗？

Sam Altman：我的意思是，我们试图给出一些历史类比，因为我们认为这很重要。我们可能是错的，我们可能是对的，但对我们来说，告诉社会我们相信这项技术的重要性是非常重要的。任何新技术都没有完美的历史模拟。所以我们可以说曼哈顿项目有些事情就像我们现在正在做的那样。有一些关于阿波罗计划的东西，有一些关于iPhone的东西，有一些关于那个带有手柄的iMac的东西，我也非常喜欢，还有一些关于互联网的东西。有一些关于工业革命的事情。但我认为重要的是要说，这里有一些部分我们可以用历史类比来类比，而这里有一些我们不能类比的部分，而且这项技术的形态、决策和影响从根本上来说有点不同，我认为。

Brian Chesky：我认为它与曼哈顿项目不同。这不是一场比赛，也不会秘密进行。我认为各国可以合作，并且可能会有一个跨国的团体或机构，能够真正地达成一致，以确保我们都在同一页面上，这对社会是最好的，坦率地说，可能对企业家来说是最好的，这样他们就不必遵守像200个不同的法律一样。

Sam Altman：我们认为，建立某种全球框架与合作非常重要。我认为我们真的需要那个。

主持人：我想你们中有一个人提到过民族国家存在风险，它正在以一种危险的方式利用这项技术。

Brian Chesky：绝对的，而且我，你知道，我认为你必须总是非常非常小心，比如这项技术是谁掌握的，你把这项技术交给谁。我认为这可以追溯到山姆思考的一些事情。就像我们喜欢的东西之一，我知道他们早期开发但选择不发布的就像语音克隆，对吧？已经有技术可以让你基本上像捕捉某人的声音一样，但显然这将是非常危险的，因为显然你可以想象它会如何损害选举和重大的安全风险。所以我认为其中一件事就是思考，这些工具最终会落入谁的手中。因此，如果你让精灵从瓶子里出来，会不会变得太危险？所以要非常深思熟虑。

主持人：根据一份报告，你猜测人工智能和通用智能可以积累多达100万亿美元的财富。那就是你说你会重新分配的财富。这是一个准确的引用吗？我想对此进行扩展。

Sam Altman：我认为我想要表达的观点是，我认为我可以把世界的国内生产总值（GDP） 翻倍，这对我来说是合理的，而且肯定会与其他技术革命保持一致。是的，我们确实认为这将成为生产力的巨大驱动力，并且已经处于早期阶段，看看人们正在做什么，以极大地改善产品和服务。

主持人：你明白这对很多人来说是什么声音吗？

Sam Altman：肯定的，当然。但我认为这就是历史类比有帮助的地方，这也是查看世界国内生产总值（GDP） 随时间变化的图表有帮助的地方。而且，你知道，如果世界国内生产总值（GDP） 能够以每年7% 的速度增长，这听起来非常快，但也许像这样的技术变革并不遥远。在我的脑海中，我总是不擅长做这件事，但我认为这只需要十年的时间就可以翻倍了。所以我认为，你知道，我认为值得认真考虑这项技术的潜力，以做出巨大的贡献。我认为随着人们采用工具预览，我们现在可以看到更多的东西。

主持人 ：如果你愿意，为了我们。GPT-5，技术的飞跃会是什么？这是否让你走上了一条通往你想去的地方的直路？

Sam Altman：它是否让我们走上了什么道路？

主持人：抱歉，哪条路？它是否让你在目标方面走得更直？

Sam Altman：所以我们还不知道，你知道，我们很乐观，但我们仍有很多工作要做，但我预计这将是一个重大的飞跃，很多GPT-4出错的事情，你知道，在推理方面做不了什么，有时只是完全偏离了轨道，就像犯了一个愚蠢的错误，就像一个六岁的孩子永远不会犯的错误。我期望在这些方面它对我来说好得多，并且能够用于更广泛的更有帮助的任务。

主持人：ChatGPT有时候会犯错。这是回到我们谈论数据缺乏或数据短缺的地方的结果吗？

Sam Altman：我认为这是许多事情的结合。我们在开发如此复杂的系统方面还处于早期阶段，存在数据问题，算法问题，相对于将来的模型来说，仍然很小。我们知道他们会以可预见的方式变得更好。所以我认为更像是有很多事情需要我们去改进，而且我们仍然处于技术的早期，你知道，第一款iPhone仍然存在很多问题，但它已经足够好，可以对人们有用了。

Brian Chesky：是的，我认为在接下来的几年里，世界上的事情不会发生如此大的变化。人们认为这不是线性的。事情会慢慢改变。然后可能突然之间，我想每个人都还在试图弄清楚如何使用这项技术。

如果你拿起你的手机，看看你的主屏幕，问自己在ChatGPT推出一年半后，有多少应用程序因为AI而有根本的不同？它们中很少有根本不同的。所以我认为我们仍然在这个世界上，我们正在开发很多计算。山姆和团队正在开发模型，当人们在这些模型和应用程序的基础上构建时，很多大小的变化可能会发生，而且它有很多用途。

我的意思是，你知道，我们正在谈论的一个重要用例是科学发现。你知道，想想这会对药物研究产生什么影响，你知道，社会上一些最大的弊病类型。这与教育有很多关系。我们认为这基本上可以让世界各地的每个人，有创造力的人都能接触到导师。我知道有很多人担心艺术家可以被取代，但是，你知道，我认为如果艺术家参与，我去了设计学校，我认为这是他们可以使用的技术，所以我认为我们可以继续下去。我认为在接下来的3到5年里，将会有很多令人兴奋的机会。

主持人：山姆，五年后你想达到什么水平？

Sam Altman：进一步沿着这条道路？你知道的，工作中最有趣的部分之一是每天收到大量的电子邮件，这些邮件来自以各种惊人方式使用这些工具的人。我，比如说，有一个健康问题困扰了我多年，我一直没能弄清楚，让我的生活痛苦不堪。我把症状输入ChatGPT，得到了一个建议，于是去看医生，现在完全治好了，或者我一直试图学习某些东西却做不到，然后ChatGPT成了我的导师，或者我是一个开发人员，用它后生产力提高了三倍，做了很多惊人的事情。我是一个科学家，使用它，我喜欢收到这些反馈。我真的很喜欢人们对ChatGPT的热爱。五年后，我希望能看到更多这样的情况。我希望我们推出的这个工具能继续带给人们欢乐，让他们在自己所做的事情中发挥出最佳状态。

主持人：好的，我们将会有更多这样的对话，当然当你走下去时，但我想感谢你们两个山姆·阿尔特曼和布莱恩·切斯基抽出时间在这里和我们在一起。问我，很棒的对话，谢谢。和你在一起，感谢你的收看，随时了解NBC新闻应用程序的突发新闻和头条新闻，或者在社交媒体上关注我们。

来源： ​​51CTO技术栈​​