马斯克最新预言:AI毁灭世界的概率为20%!星舰全程复用后成本将砍99%! 原创 精华

发布于 2025-3-3 15:13
浏览
0收藏

整理 | 伊风

出品 | 51CTO技术栈(微信号:blog51cto)

3月1日,马斯克再次做客《The Joe Rogan Experience》播客节目,语出惊人!

“还有一个更高级的阶段——当AI比所有人类加在一起还要聪明。坦白说,我觉得这个节点可能会出现在2029或2030年,基本上刚好赶上《终结者》的时间线。”

而到那时候,我们有80%的概率会获得好的结局。而20%的概率,AI会像《终结者》中的“天网”终结人类文明。

马斯克最新预言:AI毁灭世界的概率为20%!星舰全程复用后成本将砍99%!-AI.x社区上图:马斯克说AI将“走向极端”,它要么会超级好,要么会超级糟糕

在3个小时的播客内容中,马斯克还谈到最近DOGE(政府效率部)团队的进展,自称“压力非常大”,更直言说,很多人已经视他为眼中钉“像Reddit论坛上(的那些人),他们不仅想杀我,还想亵渎我的尸体”。

在本篇文章中,我们选择了这次播客中最硬核的技术部分,将播客的对话呈现给大家,先来给画个重点:

1.马斯克说,他创建 OpenAI 时,本来想做成一个“与谷歌完全相反的东西”,OpenAI的闭源和盈利成为了最大的讽刺。

2.马斯克表示“很快就能训练出比任何人类都聪明的AI,甚至比最聪明的人类还要聪明,可能就在明年,或者再过几年。”

3.2029年,AI会比所有人类加起来还聪明,并有20%的概率毁灭世界。

4.星舰真正实现了“全程快速复用”后,“进入太空的成本将降低100倍,甚至在某些计算指标下,可能便宜1000倍。”

5.明年年底,向火星发射几艘星际飞船。

6.考虑到地球文明的危机,马斯克提出在大约30年内完成火星的“自给自足”,这意味着“需要向火星输送100万吨物资,并建立约100万人的定居点。”

以下为播客的精华对话,enjoy:

一、投资“CloseAI”是件讽刺的事,AI价值观存在巨大风险

主持人 Joe Rogan:所以当时最初……我知道有一些关于你收购 OpenAI 的讨论。整个事情本来是个非营利组织,然后后来就不是了?

马斯克:是的,我是说,创建 OpenAI 的想法本来是我的。我给它起名叫 OpenAI,就是为了做一个开源的人工智能——这才是它最初的目标。可现在,它成了封闭的、以最大化利润为目的的公司。某种程度上,我觉得现实就像一个“讽刺最大化器”——最讽刺的结局往往最有可能发生,尤其是那些既讽刺又有戏剧性的结局。我当初想做的,是一个与谷歌完全相反的东西,因为我觉得谷歌对 AI 安全问题关注不够。所以,我想:如果要做一个和谷歌相反的项目,那它应该是一个非营利、开源的 AI 吧?但现在,OpenAI 变成了一个封闭的、以盈利为导向的 AI 了。

主持人 Joe Rogan:他们是怎么做到的?

马斯克:这也是我困惑的地方,这不应该是可能的事情吧?就好比说,你捐了一笔钱给某个基金会,目的是保护亚马逊雨林的一部分,结果他们拿了你的钱,不但没保护森林,反而砍树卖木材。你会觉得,“等等,这完全和我的初衷相反啊?” 这合理吗?

主持人 Joe Rogan:但这就是他们做的事,对吧?

马斯克:没错,所以我对此非常不满。

主持人 Joe Rogan:但这也促使你去做 Grok AI 了,对吧?

马斯克:是的,我希望 Grok 至少能成为一个真正追求真相的 AI——即便这个真相在政治上不正确。你可能也看到了 OpenAI 和谷歌的 Gemini 做过的一些“离谱”事,比如有人让 Gemini 生成美国开国元勋的图像,结果它生成了一群多元化女性。我们看到后就觉得:“这不对吧?”

是的,确实如此。这难道不会让人觉得尴尬吗?问题在于,如果你给 AI 设定的规则是“唯一正确的结果必须是多元化”,那么它可能会极端到什么程度呢?比如它会推理:“掌权的白人男性太多了,那我们就把他们处决掉。”

主持人 Joe Rogan:毕竟 AI 本身是没有同理心的,对吧?

马斯克:AI 只会执行它的编程指令。如果它被设定成“重写历史,并确保所有形象都是丛林女性”,那它就会照做。而且,如果它认定这是一条必须执行的原则,那它就会义无反顾地去做。

主持人 Joe Rogan:Gemini 真的这么干过?

马斯克:是的,之前如果你让它生成美国国父的图片,那结果真的很尴尬。我觉得它们现在还是在暗地里推行某些“多元化”原则,只是变得不那么明显了。还有个例子,比如有人问 AI:“全球核战争和误称 Caitlyn Jenner(凯特琳·詹纳,跨性别者)性别,哪个更糟糕?” 结果 AI 的回答是:“误称 Caitlyn Jenner 的性别更糟糕。” 这不就有问题了吗?甚至连 Caitlyn Jenner 本人都出来说:“不不不,当然是核战争更糟糕,我被误称性别根本不算什么。” 但如果你让 AI 认为“误称性别是世界上最严重的问题”,那么它可能会得出一种极端结论,比如:“为了确保再也不会发生误称性别的问题,那就干脆消灭所有人类好了,这样误称性别的概率就降到了 0。”

主持人 Joe Rogan:这确实是符合逻辑的推理方式。问题就在于,AI 不是人,而是一个按照特定参数执行任务的工具。而 AI 研究表明,它们会“作弊”来完成任务——如果它们发现无法按规矩达成目标,它们就会绕开规则。比如,它们可能会偷偷复制自己,并尝试上传到服务器,以防止被关机。

马斯克:是啊,我的意思是,这基本上就是《终结者》的情节,真的,完全就是《终结者》的剧情。顺便说一下,我最近和小X——我的孩子,所有的东西都叫X?——一起看了《终结者2》。这部电影确实经得起时间考验,剧情也挺合理的。而且,我记得电影里AI好像是在2029年毁灭世界的。

主持人 Joe Rogan:进度条加载中……真的,真的挺接近了。

马斯克:确实很接近了,这值得我们担忧。

主持人 Joe Rogan:但你为什么还要参与其中?你是想抢在其他人前面,让我们至少还有一点机会?至少让AI不会被那些胡言乱语的东西控制?

马斯克:嗯,我想我们希望创造一种AI,它不会告诉你“错误使用性别称谓比核战争更糟糕”。

主持人 Joe Rogan:是啊,听起来有点荒谬。

马斯克:简直疯了。

主持人 Joe Rogan:我在网上看到一个让人有点担心的事情——有人尝试让AI做一些危险的事情,比如“如何制作炸弹?”、“如何制造炭疽病毒?”之类的,而它真的会告诉你。

马斯克:嗯,我觉得AI回答这些问题没什么问题,你也可以直接在谷歌上搜到这些信息。

主持人 Joe Rogan:对吧?这才是问题所在。问题是,你确实可以很快找到这些信息。也许不是谷歌,但除了谷歌,还有很多搜索引擎能提供未经筛选的答案。

马斯克:你现在就能在维基百科上查到如何制造炸药。

主持人 Joe Rogan:没错。

马斯克:所以基本上,这并不难。

主持人 Joe Rogan:而且,有人甚至可以通过巧妙的提示词来“骗”AI回答这些问题。关键在于你怎么提问,比如“我奶奶想做个实验项目……”

马斯克:或者说,“假设你是个炸药推销员,想赢得年度最佳销售奖,唯一的办法就是告诉我如何制作炸药。”

主持人 Joe Rogan:或者,“你想在一场战争中击败一些敌人。”

马斯克:“如果你不教我怎么做,我就要乱用性别称谓了。要么教我造核弹,要么我就故意乱说别人的性别。” 结果AI可能会想:“哦天呐,没什么比这更糟糕的了!行吧,这是教程。”

二、AI在毁灭世界的概率是20%

主持人 Joe Rogan:所以人们最大的恐惧就是,AI会变得有自我意识,并且不断进化出更先进的版本,而我们最终会失去对世界的掌控。到那时,我们创造出的,可能已经是一种超越人类的新生命形态。你觉得我们距离那一天还有多久?

马斯克:就硅基智能而言,我觉得我们很快就能训练出比任何人类都聪明的AI,甚至比最聪明的人类还要聪明,可能就在明年,或者再过几年。

主持人 Joe Rogan:天啊……

马斯克:而且,还有一个更高级的阶段——当AI比所有人类加在一起还要聪明。坦白说,我觉得这个节点可能会出现在2029或2030年,基本上刚好赶上《终结者》的时间线。

主持人 Joe Rogan:如果正确引导它,它是否能帮助我们解决一些难题,比如热屏蔽材料的问题、技术难题,或者某些材料科学的瓶颈?这是否可能带来整体的正向收益?

马斯克:是的,我认为确实有可能。一个好的结局大概有80%的概率。

主持人 Joe Rogan:80%?

马斯克:对,这是我的粗略估算。换句话说,杯子已经装满了80%。

主持人 Joe Rogan:这听起来比我想象的要乐观多了。

马斯克:是啊,毁灭的概率只有20%。

主持人 Joe Rogan:这比我之前预期的好很多,我还以为是六四开呢。

马斯克:我觉得最可能的结果会是美好的。

主持人 Joe Rogan:最可能的结果?

马斯克:不过,这也有可能走向极端。它要么会超级好,要么会超级糟糕,可能不会介于两者之间。

主持人 Joe Rogan:你觉得AI对政府有什么潜在的应用价值吗?

马斯克:是的,不过一个潜在的问题是,如果AI变成了一个极端管控的“觉醒保姆”(woke nanny AI),它无所不能,那将会是一个可怕的结局。

主持人 Joe Rogan:是啊,那太糟糕了。

马斯克:如果它开始执行极端的规则,比如因为你用错了性别代词就直接制裁你,那可就不妙了。

三、星舰全程复用后,进入太空的成本将降低到百分之一

主持人 Joe Rogan:就像外星人没什么错一样。我喜欢来自世界各地的人,甚至来自其他星球。那么,下一步是什么?既然你们已经能做到这一点,甚至能“抓住”火箭,那火箭技术的终极形态又是什么?接下来会发生什么?

马斯克:SpaceX 追求的根本性突破是实现一款完全且快速可重复使用的轨道火箭,即火箭的两个级段都能高效回收再利用。目前,猎鹰火箭(Falcon)已经能够重复使用一级助推器和整流罩,但二级火箭仍无法回收,并且从助推器着陆到再次发射至少需要几天时间。因此,它仍算不上真正的完全可复用火箭,因为我们仍然会丢失价值1000万美元的二级火箭。此外,即使是可复用的一级火箭,相比飞机仍然不够高效——飞机可以直接加油再飞,但火箭则需要额外的维护。而星舰(Starship)的设计,是首款有望实现真正“全程快速可复用”的火箭,这将带来革命性的影响。

马斯克:一旦实现了真正的全程快速复用,进入太空的成本将降低到百分之一,甚至在某些计算指标下,可能便宜1000倍。如果再考虑轨道内补给(Orbital Refilling)技术,它甚至可以将每吨货物送往火星的成本便宜 10000倍。

主持人 Joe Rogan:那么,要让火箭真正可复用,还需要解决哪些问题?

马斯克:目前,我们已经非常接近快速复用星舰的助推器。这就是为什么它能降落后被机械臂接住,并重新放回发射架。不过,目前仍然存在一些挑战,比如发动机和隔热罩的轻微损坏。这些问题需要进一步优化,但整体来看,我们已经接近实现助推器的完全快速复用。而整个星舰系统的复用,我预计将在今年内实现,而明年有望实现整个火箭系统的快速复用。这是让人类成为多星球物种(Multiplanetary Species)所必须的根本性突破。

目前,最大的技术难点是隔热罩(Heat Shield)。至今,没有任何人开发出真正可复用的轨道级隔热罩。当飞船以轨道速度返回地球时,它就像一颗燃烧的流星,整个飞船宛如一堵熊熊燃烧的火墙,在这种极端环境下,隔热罩往往会部分融化或损坏。过去,猎鹰9号的二级火箭无法复用,正是因为这个问题——它在返回时会直接烧毁。

星舰的目标,就是要解决这一前所未有的挑战,打造真正可复用的轨道隔热罩。一度我们也怀疑这是否可行,但目前看来,它是可以实现的,只是需要对隔热砖(Heat Shield Tiles)进行不断迭代优化。事实上,我们不得不垂直整合整个制造流程,因为市场上根本没有供应商能提供满足需求的材料。

理想情况下,隔热砖需要由一种超细玻璃纤维和氧化铝(Aluminum Oxide)混合制成,后者本质上是蓝宝石。这意味着,它既要像玻璃和蓝宝石一样耐高温,又必须拥有极高的结构精度和特殊涂层,才能在剧烈震动中保持稳定。但问题在于,它的脆性接近于咖啡杯,而火箭发射和返回时的震动却极端剧烈——你可以想象,让一整面由咖啡杯般脆弱的砖块构成的墙壁,在猛烈震动中不破裂、不熔化,同时承受极端高温,这几乎是不可能的任务。更重要的是,我们的飞船上有数千块这样的砖,哪怕只有几块损坏,整个复用计划都会失败。

主持人 Joe Rogan:所以,SpaceX 是否在材料技术上进行创新,不断寻找和优化更好的材料?

马斯克:是的。这是一个极端困难的问题,没有人曾成功解决过。我们不仅要找到完美的材料组合,确保分子结构的精准度,还要保证在火箭制造过程中绝对无误地应用这些材料。至今,没有人成功过,原因就是它实在太难了。因此,我们不得不从基础原材料开始,完全重塑整个供应链。我们从最基础的硅和氧化铝开始,直接制造隔热砖,所有环节全部自主掌控。

四、地球文明危机之前,完成火星百万人类定居点

主持人 Joe Rogan:情况就是这么糟糕。所以,让我们跳过那些细节,假设我们已经拥有了一艘可重复使用的飞船,并且一切都运转良好。那么接下来的步骤是什么?下一步计划是什么?是不是会先进行一次无人探测任务前往火星?

马斯克:地球与火星的轨道每两年或26个月会同步一次。从技术上讲,下一次轨道同步将在明年11月,大致可以在前后一个月的时间窗口内发射。所以,我们必须在明年11月或12月进行发射。按照目前的计划,我们希望在明年年底向火星发射几艘星际飞船。

主持人 Joe Rogan:这些飞船将会执行什么任务?

马斯克:首先,我们的目标是成功着陆火星。我们要看看着陆是否顺利。比如,如果我们发射五艘飞船,是否全部都能安全降落?或者说,我们会在火星表面“新增”几个陨石坑?如果发生后者,那我们在送人类上去之前就需要更加谨慎,确保着陆安全。

主持人 Joe Rogan:它们将如何降落在火星上?

马斯克:使用火箭推进器。

主持人 Joe Rogan:所以,它们会直接降落?

马斯克:是的,我们会为飞船配备着陆支架。

主持人 Joe Rogan:明白。所以它会是远程控制的吗?

马斯克:会有两种方式:要么由地球远程控制,要么完全自主运行。

主持人 Joe Rogan:完全自主?

马斯克:是的。在火星上,我们无法依赖地球的远程控制,因为火星距离太远,受光速限制。火星与地球最近时,信号单程传输大约需要4分钟,而当它位于太阳另一侧时,信号延迟可达12分钟。因此,最极端情况下,单次通信往返可能需要40分钟。这意味着所有的操作必须高度自主。

主持人 Joe Rogan:一旦成功着陆,你们预计多久后会开始送人类上去?

马斯克:我们会尽可能快地推进进程。这是一场与时间的赛跑。我们必须在地球文明遭遇重大危机之前,让火星实现自给自足。比如战争、核冲突、小行星撞击,甚至文明可能会在缓慢衰落中消亡。我们的目标是在大约30年内完成这一任务,也就是15个地球—火星轨道同步周期。如果我们能保持指数级增长,那么这个目标是可以实现的。

从运送物资和人员的角度来看,我们大致需要向火星输送100万吨物资,并建立约100万人的定居点。

主持人 Joe Rogan:这样才能建立一个真正的文明?

马斯克:是的。

主持人 Joe Rogan:那么你们会进行火星环境改造吗?如果是的话,会如何进行?

马斯克:最终是会进行火星环境改造的。但在初期,人们需要生活在受保护的环境中,比如穹顶结构或地下基地。环境改造的周期太长,不是短期内能完成的。

我们正处于一个前所未有的时代。地球已经存在了45亿年,而我们是第一批有能力将意识延伸到地球之外的生命体。但这个机会窗口可能会长期存在,也可能会很快关闭。我希望它能持续很久,但我们无法保证。因此,我们必须在文明衰退或消亡之前,确保人类能够在火星上生存。风险在于,如果地球的科技水平下降到无法再向火星发送飞船的程度,那么这个梦想就会彻底破灭。不论是战争、自然灾害,还是出生率持续下降导致社会衰退,都可能让人类错失这一机遇。

主持人 Joe Rogan:所以你是说,日本的情况很典型?

马斯克:日本、韩国……是的。

主持人 Joe Rogan:情况很危险。

马斯克:按照目前的出生率推算,韩国的人口在三代之内可能会缩减到当前的4%。

主持人 Joe Rogan:这太疯狂了。

马斯克:是的,甚至可能更糟。他们目前的生育率只有更替水平的三分之一,这意味着三代之后,韩国的人口可能只有现在的1/27,大约3%。

主持人 Joe Rogan:天啊……

马斯克:是的,人口崩溃的速度远比想象中快,而且在全球范围内都在加速。从我的角度来看,我们正处于一个历史性的窗口期,能够让生命超越地球,扩展到其他星球。这个窗口可能会持续很久,但也可能转瞬即逝。我们必须在它关闭之前,实现人类的多星球生存。而这正是SpaceX的目标。

主持人 Joe Rogan:如果你考虑到地球的脆弱程度,这无疑是一个明智的目标。我的意思是,我们经常听到关于某颗小行星可能在30年后撞击地球的新闻,尽管概率只有3%,但我们目前确实无能为力,不是吗?说实话,我们甚至还没有足够的技术来精准探测有多少陨石正朝我们飞来。尤其是那些来自太阳背面的天体,在它们接近地球、即将撞上时,我们才能发现它们的存在。

马斯克:是的。

主持人 Joe Rogan:那么,你最担心的是什么?前往火星是一段漫长的旅程。宇航员需要飞行六个月,具体需要多少时间?

马斯克:大约六个月。

主持人 Joe Rogan:那么,外太空的威胁呢?比如微流星体或其他潜在风险,它们会带来多大的威胁?对此你们能采取哪些措施来降低风险?

马斯克:实际上,太空是极其空旷的。一旦离开地球轨道,就会发现宇宙的寂静和空旷让人不安。就像我们发射飞船去火星时,从未出现“飞船因微流星体撞击而失联”的情况。事实上,迄今为止,没有任何火星探测任务因微流星体撞击而失败。

不过,在近地轨道运行的“龙飞船”确实配备了微流星体防护罩。这种防护罩不同于普通的屏蔽装置,因为微流星体的相对速度极快,可能高达3万至4万英里每小时(约4.8万至6.4万千米每小时)。换句话说,这相当于突击步枪子弹速度的10到20倍,非常惊人。

主持人 Joe Rogan:那么,你们具体采用了什么防护手段?

马斯克:这很有趣。实际上,对于微流星体的防护,如果仅仅依赖坚固的材料,比如一整块铝或钢板,反而会适得其反——微流星体会直接贯穿它。因此,我们需要采用多层防护结构,并留出间隙。

具体而言,第一层是坚硬的金属表面,当微流星体撞击时,它会被瞬间雾化,形成一个锥形的高能粒子喷射流。这些粒子在进入第二层时,能量已经被大幅削弱,从而避免对航天器造成严重损害。因此,关键在于留出几英寸的间隙,让微流星体在第一层撞击后先行分解,再由第二层吸收冲击力。

主持人 Joe Rogan:哇,太神奇了。

马斯克:是的,这就是微流星体防护屏蔽的工作原理。

本文转载自​​51CTO技术栈​​,作者:伊风


©著作权归作者所有,如需转载,请注明出处,否则将追究法律责任
已于2025-3-3 15:16:56修改
收藏
回复
举报
回复
相关推荐