撰文：Techub News 整理
导语
在 Neil deGrasse Tyson（尼尔·泰森）主持的知名科学播客节目 StarTalk 的特别版中，迎来了一位特殊的嘉宾——拥有计算宇宙学博士学位的作家 Adam Becker。Becker 的新书《More Everything Forever: AI Overlords, Space Empires, and Silicon Valley‘s Crusade to Control the Fate of Humanity》（更多的一切，永远：AI 霸主、太空帝国与硅谷控制人类命运的远征）直指硅谷科技巨头们鼓吹的未来叙事。在这场长达 53 分钟的深度对谈中，Becker 与泰森及另外两位主持人 Gary O‘Reilly 和 Chuck Nice 一起，从物理学、工程学和社会学角度，逐一检视了 Elon Musk（马斯克）的火星殖民计划、Ray Kurzweil（雷·库兹韦尔）的“奇点临近”预言、Sam Altman（萨姆·奥尔特曼）关于 AGI 将解决一切问题的断言，并犀利地指出了这些宏大愿景背后存在的科学谬误、逻辑矛盾与社会隐忧。
摘要
- 火星殖民愿景不切实际：辐射防护、生命支持、返航窗口等巨大技术障碍被严重低估，Elon Musk（马斯克）提出的“2050年百万人火星定居”目标几无可能。
- “奇点”与意识上传是科学幻想：将“智能”单一化、指数化增长的“奇点论”忽视智能的复杂性和物理世界的资源、能量限制；意识上传缺乏科学基础。
- AGI 非万能解药：AGI 被过度神化，其解决全球变暖等复杂问题的承诺忽视了问题的社会政治本质；当前 AI 仍高度依赖人类监督。
- 科技富豪误读科幻：他们常将科幻作品中的警示性 dystopia（反乌托邦）蓝图（如“折磨 Nexus”）当作建设目标，缺乏批判性阅读和社会共情。
火星梦：辐射、土豆与无法回家的旅程
对话首先瞄准了 Elon Musk（马斯克）最具标志性的未来承诺：在火星上建立自给自足的百万人口文明。Adam Becker 毫不留情地指出，这个目标“绝对不会发生”。他列举了多重几乎不可逾越的障碍。
首当其冲的是致命的辐射问题。Becker 解释道，地球的磁场和厚厚的大气层保护着我们，而火星两者皆无。“在火星表面，你承受的辐射剂量几乎和在外太空一样。”他以电影《火星救援》举例说，如果主角 Mark Watney 真的在火星上经历这一切，他“回家后几年内就会死于癌症”。
主持人 Chuck Nice 提到国际空间站（ISS）的宇航员可以驻留一年，试图类比。但 Becker 澄清了关键区别：ISS 仍在地球磁层的保护范围内，且一旦出事，宇航员能在几小时内返回地球。而去往火星，单程旅行就需要数月，通讯延迟至少 8 分钟，最长可达 20 分钟。更重要的是，如果任务期间出现问题，返程并非按下按钮就能启动。“如果你不接近发射窗口（地球与火星处于合适位置），你可能需要等待远超过一年才能回家。” Neil deGrasse Tyson（尼尔·泰森）补充道，一次理想条件下的火星往返任务也需耗时数年，与仅需一周的月球之旅截然不同。
除了辐射和旅行风险，火星生存本身也困难重重。Gary O‘Reilly 问及居住方案，Becker 指出火星土壤含有高毒性化合物高氯酸盐，这使得《火星救援》中“用粪便种土豆”的桥段在实际中并不可行——土豆会被污染。此外，制造氧气、获取水资源、抵御极端温度和尘暴，每一个都是巨大的工程挑战。这些事实共同描绘出一幅图景：将人类送上火星并安全带回已是极限工程，大规模殖民在可预见的未来更像是一种科幻叙事，而非严谨的科学规划。
永生与奇点：当指数增长遇上物理极限
话题随后转向另一个硅谷热门话题：通过技术实现功能性的永生，乃至意识上传。Becker 将矛头指向了“奇点”（Singularity）理论及其主要倡导者 Ray Kurzweil（雷·库兹韦尔）。
Becker 认为“奇点论”建立在几个有严重缺陷的假设之上。首先，它错误地将“智能”视为一个可以单一维度度量并能无限线性增长的标量。“智能是非常复杂的东西，不是一个数字。”其次，Kurzweil 将摩尔定律（计算机芯片性能约每18个月翻倍）外推为一个普遍的“加速回报定律”，并认为这种指数增长会持续下去，最终在2045年左右导致“奇点”降临。
Becker 和 Tyson 对此进行了驳斥。Tyson 指出，技术进步可以从提高能效入手，例如量子计算可能以更低能耗实现更强算力，未必会持续推高能量需求。但 Becker 则强调了更根本的物理限制：“指数趋势并非自然法则。关于指数趋势的自然法则是它们会终结。”他解释说，摩尔定律的维持是半导体产业巨额商业投入的结果，而非物理必然。最终，硅晶体管无法做得比硅原子更小，“摩尔定律已经结束了”。现在的解决方案是堆叠更多芯片，而非继续缩小尺寸。
对于由此衍生出的“超级智能AI将解决衰老、实现意识上传”的愿景，Becker 直言这是“无稽之谈”。他承认生物技术可能延长人类健康寿命，但所谓的“奇点”承诺的是一种魔法般的、由AI赐予的永生或意识数字化，这缺乏科学依据。Chuck Nice 则一针见血地指出，即使这种技术成为现实，它也极可能只服务于“看门人”阶层，即控制AI的少数亿万富豪，加剧社会不平等。
AGI 神话：是救世主还是新时代“蛇油”？
自然，对话离不开当下最火热的人工智能，尤其是 AGI（通用人工智能）。Becker 特别点名了 OpenAI CEO Sam Altman（萨姆·奥尔特曼）的言论。Altman 曾声称 AGI 将在未来几年内实现，并能解决包括全球变暖在内的所有问题。
“这太疯狂了，”Becker 反驳道，“首先，我们现在建造的 AI 系统本身就在消耗越来越多的能源。如果你真的造出一个能解决全球变暖的 AGI，然后问它‘怎么解决’，我很确定它说的第一件事会是‘你当初就不该造我’。”他进一步指出，全球变暖的核心解决方案（减少碳排放）我们已经知晓，问题不在于智力不足，而在于“人类行为……是贪婪”。AGI 无法绕过政治、经济和社会博弈这些根本性障碍。
Becker 和主持人们还将当前 AI 的能力与 AGI 的承诺进行了对比。Tyson 列举了驾驶汽车、冲泡咖啡等任务型 AI，而 AGI 被设想为能超越这些、具备通用学习和潜在意识的存在。但 Becker 提醒大家，即使是旧金山街头遍布的 Waymo 自动驾驶汽车，也仍需人类远程频繁监督和干预。“他们声称的 AGI 应该能独立完成所有这些事情，然后变得越来越智能……但对于控制它的亿万富翁来说，它像个神灯精灵；对于我们其他人，它就是个霸主。”
Chuck Nice 则将硅谷巨头的 AGI 宣传与历史上的电视布道者和“蛇油”推销相提并论：承诺解决所有问题，前提是你投入资金。Tyson 补充，这不仅吸引个人投资者，更能吸引政府的大额补贴与合同。这种批评揭示了在技术乐观主义外表下可能存在的资本驱动逻辑。
误读的科幻：当“警示”被当作“蓝图”
为什么科技巨头们会执着于这些在科学家看来问题重重的愿景？Becker 将一部分原因归结为他们对科幻作品的严重误读。
他提到了 Elon Musk（马斯克）那句著名的推文：“科幻不应永远是虚构。”但 Becker 反问：“哪种科幻？”《银翼杀手》是 dystopia（反乌托邦），而 Musk 却说他的 Cybertruck 看起来像《银翼杀手》里的车（尽管“银翼杀手”是职业而非车辆）。
Becker 分享了一个在他脑海中“免租居住”的推文梗：“科幻作者：我在书里创造了‘折磨 Nexus’作为警示寓言。科技亿万富翁：我们终于创造了经典科幻小说《不要创造折磨 Nexus》里的‘折磨 Nexus’。”他认为，这正是许多科技富豪正在做的事——他们把科幻中对技术滥用、财富集中、权力脱离约束的警告（如威廉·吉布森的《神经漫游者》），当成了值得追求的建设蓝图。
Neil deGrasse Tyson（尼尔·泰森）则从科技精英的成长路径分析了这种脱节：成为“科技狂人”可能需要极度专注于技术领域，以至于牺牲了社交生活和共情能力的充分发展。“他们取得了这些成就，但你人生训练的一部分不包括他人的情感、感受，或人们如何看待世界、他们的欲望是什么。于是你认为自己的成就是为了他们的最佳利益，尽管你根本不知道他们是谁。” Becker 赞同地补充，像 Musk 这样声称要“拯救人类”的人，似乎“并不真的关心具体的人”。
财富、权力与我们需要怎样的未来
对话最终触及了问题的核心：巨额财富带来的过度权力，以及社会对财富智慧的盲目崇拜。Chuck Nice 指出，财富即硬实力，它能影响权力的每一个角落。他回顾了富兰克林·罗斯福时代的高累进税率政策，认为社会有权对超出必要范围的巨额财富进行调节，因为这些财富的积累本就依赖社会共同构建的基础设施和法律框架。
Adam Becker 在书中也提出了类似观点，他认为社会应该限制个人所能拥有的财富（或权力）上限。他批评道，我们社会总有一种倾向，认为超级富豪在赚钱之外的其他领域（如人类未来规划）也拥有权威见解，“而他们可能完全是傻瓜”。Chuck Nice 讽刺地说，富豪们真正擅长的是“为他们自己赚更多钱而操纵游戏规则”。
Neil deGrasse Tyson（尼尔·泰森）在总结陈词中提出了一个关键概念：智慧（Wisdom）。他指出，未来取决于科学技术的进步，但更取决于我们面对自身造物时的智慧。“智慧，我认为是在所有人展现的才华、创造、发现、运作力量中，一个被低估的因素。”他将未加约束的技术比作脱缰的野马，而智慧则是驾驭它的缰绳，确保技术为人类整体的需求服务，而非失控或沦为少数人的工具。
这场对话不仅是一次对硅谷流行未来叙事的科学祛魅，更是一场关于技术发展应服务于何人、受控于何物的深刻反思。在 AI 与太空探索激情澎湃的时代，Becker 和 Tyson 等人带来的冷静批判，提醒我们在仰望星空的同时，更需脚踏实地，审视权力，并找回那份至关重要的、属于全人类的智慧。
