AGI进入千日冲刺？奥特曼深夜长文警告：如果没有足够的AI基础设施，可能会引发战争！ 原创

奥特曼深夜发文！引来无数网友围观。

谈起心目中的“智能时代”，奥特曼又一次重申：可能在几千天内，我们就会拥有AGI！

图片

奥特曼说，“在未来几十年，我们将能够做到一些对我们的祖父母来说似乎像魔法一样的事情。”而纵观历史，人类的能力扩展不外乎受惠于科技的发展，“我们之所以更有能力，并不是因为基因的改变，而是因为我们受益于社会基础设施比任何一个人都要聪明和更有能力；从某种重要意义上说，社会本身就是一种先进的智能形式。”

在X上贴心的网友用o1为这篇长文划了重点：

图片

1. 人工智能将以指数级的速度提升人类的能力，实现今天看来像魔法一样的成就。

2. 社会作为一种集体智慧发挥作用，而人工智能将极大地增强这种共享智慧。

3. 深度学习的可扩展性是人工智能快速发展和潜力的关键驱动力。

4. 由人工智能驱动的智能时代有望带来前所未有的全球繁荣和问题解决。

5. 获得充足的计算能力和能源对于实现人工智能民主化和防止不平等至关重要。

6.要最大限度地发挥人工智能的优势，确保其积极的未来，就必须驾驭人工智能的风险。 

然而，知名科技外媒TechCrunch却锐评这篇文章，说奥特曼正从创始人模式向上帝模式迈进！

图片

奥特曼的乐观预言为什么会引来如此辛辣的批评？我们一起看看。

一、奥特曼的长文都说了什么？

先来看看奥特曼博客文章《智能时代》全文：

在未来的几十年里，我们将能够做出一些在我们的祖父母看来像魔法一样的事情。

这种现象并不新鲜，但它将会加速。随着时间的推移，人们的能力显著提升；我们现在已经能够完成一些我们前辈认为不可能的事情。

我们变得更有能力，不是因为基因的改变，而是因为我们受益于社会的基础设施，这些设施远比我们中的任何一个人更聪明、更有能力；在某种重要意义上，社会本身就是一种高级智能。我们的祖父母——以及他们之前的几代人——建设并实现了伟大的成就。他们为人类进步的脚手架做出了贡献，而我们都从中受益。人工智能将为人们提供工具来解决困难的问题，并帮助我们在这些脚手架上增加新的支撑，而这些是我们自己无法想出来的。进步的故事将继续下去，而我们的孩子们将能够做到我们做不到的事情。

这不会一下子发生，但很快我们将能够与人工智能合作，帮助我们实现比没有人工智能时更多的成就；最终，我们每个人都可能拥有一个个人人工智能团队，团队中充满了不同领域的虚拟专家，共同努力创造我们能想象到的几乎任何东西。

我们的孩子将拥有虚拟导师，能够根据任何需要提供个性化的课程辅导，无论是任何学科、任何语言，或任何学习节奏。我们可以设想类似的想法，用于改善医疗、创造任何人能想象的软件等。

有了这些新能力，我们可以实现一种今天看来难以想象的共同繁荣；在未来，每个人的生活都可以比现在的任何人都好。仅仅是繁荣并不一定能让人们感到幸福——有许多痛苦的富人——但这将实质性地改善全世界人民的生活。

这里有一种狭义的看待人类历史的方法：经过数千年的科学发现和技术进步的复利效应，我们已经找到了如何融化沙子，加入一些杂质，以令人惊叹的精确度在极其微小的尺度上将其排列成计算机芯片，通过它传输能量，最终得到能够创造越来越强大的人工智能的系统。

这可能是迄今为止历史上最具决定性的重要事实。我们有可能在几千天内（！）实现超级智能；也许需要更长时间，但我确信我们会达到这一点。

我们是如何来到繁荣的下一次飞跃的门槛上的？

用三个词来说：深度学习奏效了。

用十五个词来说：深度学习奏效了，随着规模的扩大而可预测地变得更好，我们投入了更多资源。

事实就是如此；人类发现了一种算法，它真的可以学习任何数据分布（或者更确切地说，是生成任何数据分布的“规则”）。以惊人的精度，随着计算能力和数据的增加，它在帮助人们解决难题方面变得越来越好。不管我花多少时间思考这一点，我都无法真正理解它的深远影响。

我们还有许多细节需要弄清楚，但把注意力分散在任何特定的挑战上都是错误的。深度学习有效，我们将解决剩下的问题。我们可以对接下来可能发生的事情说很多话，但最重要的是，人工智能将随着规模变得更好，并且这将带来对世界人民生活的实质性改善。

人工智能模型将很快作为自主的个人助手，代表我们执行特定任务，例如协调医疗护理。在更远的未来，人工智能系统将变得如此强大，以至于它们帮助我们创造下一代更好的系统，并推动全面的科学进步。

技术将我们从石器时代带到了农业时代，然后是工业时代。从这里开始，通往智能时代的道路由计算能力、能源和人类意志铺就。

如果我们想将人工智能交到尽可能多的人手中，我们需要降低计算成本并使其变得丰富（这需要大量的能源和芯片）。如果我们不构建足够的基础设施，人工智能将成为一种非常有限的资源，引发战争，最终主要成为富人的工具。

我们需要明智地但坚定地行动。智能时代的黎明是一个具有非常复杂且极其高风险挑战的重大事件。这不会是一个完全正面的故事，但它的好处如此巨大，以至于我们有责任为自己和未来找到解决面前风险的办法。

我相信未来将会如此光明，没人能通过写作来充分描述它；智能时代的一个显著特点将是巨大的繁荣。

虽然这一切将逐步发生，但一些令人惊叹的胜利——修复气候问题，建立太空殖民地，发现所有的物理学——最终将变得司空见惯。凭借几乎无限的智能和丰富的能源——生成伟大想法的能力，以及实现它们的能力——我们可以做很多事情。

正如我们在其他技术中所见，也会有负面影响，我们现在需要开始努力最大化人工智能的好处，同时最小化它的危害。例如，我们预计这项技术在未来几年可能会对劳动力市场造成重大变化（有好有坏），但大多数工作岗位的变化会比人们想象的要慢，而且我不担心我们会没有事情可做（即使它们在今天看起来不像“真正的工作”）。人们有一种与生俱来的愿望，想要创造并对彼此有用，而人工智能将使我们像从未有过的那样放大自己的能力。作为一个社会，我们将重新回到一个扩展的世界，并且我们可以再次专注于玩正和博弈。

我们今天从事的许多工作，在几百年前的人们看来可能像是浪费时间，但没有人会回头看过去，想着自己希望成为一个点灯工。如果一个点灯工能看到今天的世界，他会认为周围的一切繁荣是难以想象的。而如果我们能够快进一百年，从今天的角度来看，周围的一切繁荣也将同样令人难以想象。

二、质疑的声音：奥特曼是否沦为完全的资本家

在这篇长文中，奥特曼再度用非常乐观的语调描绘AI的未来，而对于潜在的消极结果，却总是一笔带过。例如，人们担忧的大规模失业，被简单地形容成“我们预计这项技术在未来几年可能会对劳动力市场造成重大变化（有好有坏）”。

因此，有网友担忧地说，“文章很好地概括了AI好的一面，但我很担心你似乎不再谈论那些负面影响了。你曾经说过，人工智能的负面影响将可能导致世界末日。我感觉真诚的Sama被资本家的Sama取代了 ”。

TechCrunch批评奥特曼夸张的鼓吹，讽刺其“上帝视角”：“尽管人工智能对能源资源、碳排放和冷却数据中心的用水量有重大影响，但他历来将人工智能作为解决世界问题的方案，而这是以世界在应对气候变化方面取得的进展为代价的。……但他所写的大部分内容似乎都是为了让怀疑论者相信人工智能有多么重要，结果很可能适得其反：这样的文章非但不会吸引新的粉丝，反而会让人们更加关注我们是否正处于 "皇帝的新衣 "的境地。”

Hacker News上的网友则对文中的细节展开更加详实的讨论。

一位网友贴心的给奥特曼做了“英译英”。

文中奥特曼说“如果我们想让尽可能多的人掌握人工智能，就必须降低计算成本，使其变得丰富（这需要大量能源和芯片）。如果我们不建设足够的基础设施，人工智能就会成为一种非常有限的资源，人们会为了争夺这种资源而大打出手，而人工智能也会成为富人的工具。”可以翻译成下面的意思："我们需要将 OpenAI 子公司完全私有化，并将其转变为一家营利性公司，在未来十年内筹集更多的资金，以实现非营利组织的目标，因为主要的威胁并不是未来几年内自主代理带来的生存风险或军备竞赛，而是由于筹资限制而导致的商业化不足"。

图片

有人跟帖说：“他能想象因人工智能而爆发战争，却不能想象因 "建设足够的基础设施 "所需的资源而爆发战争，真是令人惊讶。”“我们上一次为先进技术开战是什么时候？军队没有为电报、无线电、电话和汽车而战。为AI也是愚蠢的。你的对手投下几百枚炸弹，人工智能就没有电力运行了。”

于是网友只能再次总结：“我想知道他是如何得出这样的预测的：如果相信（奥特曼的）这种说法，就可以利用它来促进投资，获得大合同，并游说获得特殊的法律/税收优惠。”

三、写在最后：营利版OpenAI即将到来

网友说奥特曼的长文在为OpenAI子公司营利化打“预防针”。

这个猜测并非空穴来风。

根据《财富》9月的最新报道，奥特曼已经通知员工，公司将在来年从目前复杂的非营利结构转型为更传统的营利模式。

图片

在最近的一次全公司会议上，奥特曼承认，随着公司的发展和吸引了来自微软等实体的大量投资后，OpenAI 现有的由非营利实体控制营利实体的结构已变得臃肿不堪。

奥特曼将之前的种种安排描述为 "不寻常"，并表示向营利框架的转变将使 OpenAI 更好地与科技行业的典型公司结构保持一致，从而可能使其更容易吸引投资者并明确其业务运营。尽管他没有提供有关新结构的详细细节，但他强调，这一变化对于促进 OpenAI 的使命和运营目标是必要的。OpenAI 的发言人也承诺，即使重组该组织的非营利性仍将存在。

目前，OpenAI目前正在与法律顾问协商，确保其向营利性模式的过渡符合行业标准。这个重大的决策，不仅对OpenAI的业务轨迹产生持久影响，更可能震动硅谷巨头现有的格局。

1.https://ia.samaltman.com/

2.https://winbuzzer.com/2024/09/16/openai-plans-major-corporate-restructuring-in-2024-xcxwbn/

3.https://news.ycombinator.com/item?id=41628167

本文转载自​​51CTO技术栈​​