整理 | 华卫、核子可乐

一个拥有了通用人工智能（AGI）的世界会是什么样子？

近日，Anthropic CEO Dario Amodei 发表了一篇长文，大胆预测了 AGI 到来后会对人类社会产生的巨大影响，提出 5 个 AGI 最有可能直接提高人类生活质量的领域，包括生物学与身体健康、神经科学与心理健康、经济发展与脱贫、和平与治理以及人类工作与意义。

关键预测结论包括：

• AGI 比大多数相关领域的诺贝尔奖得主更聪明，包括生物学、编程、数学、工程学、文学等。

• 人工智能支持的生物学和医学使我们能够将人类生物学家在未来 50-100 年内可能实现的进展压缩到 5-10 年内，相当于在几年内实现整个 21 世纪取得的所有生物学和医学进展。

• 7-12 年内，人类寿命有望翻倍到 150 岁、消除大多数癌症、预防阿尔茨海默病、取得体重、外貌、生殖的生物自由等。

• “5-10 年内完成 100 年进展”的人工智能加速机制同样适用于神经科学，包括大多数精神疾病被治愈、通过基因筛查预防精神疾病、极大拓展“认知和心理自由”以及提升人类的认知和情感能力。

在 Amodei 看来，AGI 最早可能在 2026 年实现。不过他一直强调，AGI 是一个不够精确的术语，它已经积累了太多科幻元素和过度炒作。相比之下，他更喜欢用“强大的 AI”（powerful AI）或“专家级科学和工程”（Expert-Level Science and Engineering）的说法。

以下是整理的原文翻译，篇幅内容有删减：

比诺奖得主都聪明的“天才之国”

所谓“强大的 AI”是指与当今大语言模型类似、但很可能基于不同架构的 AI 模型，也许会涉及到多种交互模式，并且以不同的方式进行训练。不过其至少应当具备以下属性：

• 就纯智能水平而言，它比大多数相关领域的诺贝尔奖得主更聪明——包括生物学、编程、数学、工程学、文学等。也就是说它能够证明出未解的数学定理、写出动人的小说、从头开始编写复杂的代码库等。

• 除了是“能够与之交谈的智能体”之外，它还应拥有人类虚拟工作时可以使用的一切“界面”，包括文本、音频、视频、鼠标和键盘控制以及互联网访问能力。它能够参与到这些界面所启用的任何执行、通信或者远程操作当中，包括在互联网之上采取行动、接收或向人类发出指示、订购物料、指导实验、观看视频、制作视频等。同样的，它完成所有这些任务的能力再次超越了世界上最强大的人类同行。

• 它不只是在被动回答问题；相反，我们可以把需要数小时、数天甚至数周才能完成的复杂任务直接交给它，再让它像聪明的员工那样自主完成任务，并在必要时作出反馈和澄清。

• 它没有物理实体（只存在于计算机屏幕之上），但可以通过计算机控制现有物理工具、机器人或者实验室设备；理论上，它甚至可以设计出供自己使用的新型机器人或者设备。

• 用于训练模型的资源可以复用于运行数百万个实例（对应业界对于 2027 年左右的 AI 集群规模），且该模型能够吸收信息并以十倍到百倍于人类的速度生成行动。然而，它可能仍会受到物理世界或者与之交互的软件响应时间的限制。

• 这数百万个副本中，每一个都可独立执行互不相关的任务；而且在必要时，它们也都能像人类一样协同工作。也许不同的子类型在经过微调之后，还会在特定任务中表现出专长。

总而言之，我们可以将其概括为“运作在数据中心内的天才之国”。很明显，这样的实体能够以极快的速度解决非常困难的问题，但要说清楚具体有多快则绝非易事。

在我看来，两种“极端”立场肯定都是错误的。有些人可能会认为强大的 AI 会在几秒钟、或者最多几天之内改变世界（也就是技术“奇点”），这是因为高级智能可以自我构建，因此将迅速解决一切潜在的科学、工程和操作任务。但问题在于，受到真实物理及现实条件的限制，例如在硬件制造或者生物实验等场景下，哪怕是这个天才之国也只能循序渐进。总之，强大的 AI 也许非常强大，但绝对不是点石成金的幻术。

另外一些朋友可能会认为，技术发展已经走到了尽头或者说至少受到现实世界数据乃至社会因素的限制，因此哪怕是出现了比人类更优秀的智能也没多大发展空间。在我看来这同样难以置信——我能想到几百上千个科学甚至是社会学问题，而这些睿智“头脑”的加入肯定会大大推动其发展。毕竟它们将不再局限于分析，而是在现实世界中达成目标（我们这个“天才之国”将通过指导或者协助人类团队等多种方式在其间发挥作用）。

我认为现实情况应该是这两种极端情况之间的某种复杂混合，具体因任务和领域而异，且包含大量微妙的细节。如果没有一套新的框架，我们将很难以富有成效的方式讨论这个问题。经济学家们经常讨论“生产要素”，也就是劳动力、土地和资本等等。“劳动力 / 土地 / 资本的边际收益”体现的是这样一种观点：在特定情况下，某项特定因素可能是、也可能不是限制因素——例如空军需要飞机和飞行员，如果飞机不够，那么培养再多飞行员也无济于事。

我相信在 AI 时代，智能的边际收益问题同样值得探讨，特别是应当找到能够与智能互为补充的其他要素都有什么。换言之，就是当智能水平极高时，哪些其他因素会成为限制因素。其实人类真的不太习惯思考“更聪明对于某项任务有多大帮助，这种帮助又在何种时间范围内起效？”之类的问题，但这似乎正是引导我们为强大 AI 世界勾勒出蓝图的正确方向。

我个人猜测的智能限制或者补充性要素包括：

• 外部世界的速度。AI 智能体需要在现实世界中执行交互操作才能学习并完成任务。但现实世界的速度是有限的。细胞和动物都只能以固定的速度行动，因此对其进行实验肯定需要时间，而且很可能根本无法缩短。硬件、材料科学、任何涉及与人交流的事物，甚至是我们当前的软件基础设施都是如此。另外在科学领域，许多实验往往需要按顺序进行，每个实验都在从上一项实验中学习经验或者获取依据。所有这些都意味着，完成一个重大项目的速度可能存在一个无法进一步缩短的最低限度，哪怕智能水平不断提高也再难使其寸进。

• 数据需求。有时候原始数据的缺乏也会成为大问题。如果没有充足的原始数据，再强大的智能也无济于事。当今的粒子物理学家们非常聪明，已经设计出各种各样的理论，但由于粒子加速器数据太过有限，因此不足以支撑他们的奇思妙想。所以至少在直观层面上，哪怕是拥有了超级智能也很难做得更好——唯一的途径就是建造出更大的粒子加速器。

• 内在复杂性。有些事物天然具有不可预测性或者说混沌性，哪怕是最强大的 AI 也没办法比当今的人类或者计算机更好地做出预测或者解读。举例来说，跟当前的人类或者计算机相比，哪怕是最强大的 AI 在常规情况下也只能对混合系统（如三体问题）做出更远的预测，却无法彻底将其破解。

• 来自人类的限制。很多事情压根就没有可行性，因为其有违法律、可能伤害人类甚至扰乱社会秩序。一个真正在价值观层面与人类社会对齐的 AI 根本就不想执行这些任务（而如果价值观与人类相悖，那又是另外一种风险了）。必须承认，人类社会中有很多结构不仅效率低下、甚至流毒无穷，但又很难在尊重临床试验的法律要求、不扭转人们习惯思维或者政府原则的前提下做出改变。从技术角度看，核能、超音速飞行甚至是电梯等成果都有很大的应用空间，但受到监管约束或者民间的过度恐惧，其影响力明显达不到理论上限。

• 物理定律。这其实跟第一条类似，只是更加形而上。某些物理定律似乎牢不可破，如实体的速度不可能比光更快；每平方厘米的芯片只能容纳一定数量的晶体管，否则就必然牺牲可靠性。计算还要求每个 bit 能够改变的最小能级达到一定水平，而这相当于锁死了现实世界中的计算密度极限。

基于时间尺度，还有进一步的区分。短期之内难以控制的事物，从长远来看可能更容易被智能所控制。

总之，我们可以设想这样一幅图景：强大的 AI 最初会受到其他生产要素的严重限制，但随着时间推移，智能本身开始越来越多地绕过其他要素，同时将无法绕过的要素（如绝对存在的物理定律）的影响控制在最低水平。而关键问题在于这一切将以怎样的速度发生，又会以怎样的顺序实现。

生物学巨变：“浓缩的 21 世纪”

生物学可能是科学进步最有可能直接且明确改善人类生活质量的发展领域。在上个世纪，一部分最古老的人类疾病（如天花）最终被消灭，但还有更多疾病仍在肆虐。战胜它们将是一项巨大的人道主义成就。除了治愈疾病之外，生物科学原则上还可以通过延长人类寿命、改善生存质量、增加对自身生物过程的控制以及解决目前尚无法摆脱的生理机制等多种方式，优化人类社会的基本健康质量。

借用上一节中“限制因素”的表述，将智能直接应用于生物学的主要挑战在于数据、物理世界的速度和内在复杂性（事实上，这三者又是相互关联的）。当涉及临床试验时，人类的限制也往往会在后期发挥作用。

考虑到以上现实因素，许多生物学家长期以来一直对 AI 和“大数据”在生物学领域的价值持怀疑态度。从历史上看，过去 30 年来，数学家、计算机科学家和物理学家都尝试将自己的能力应用于生物学领域，虽然也取得了相当大的成功，但始终没能带来符合最初期待的变革性影响。AlphaFold（其创造者不久前刚刚拿下诺贝尔化学奖）和 AlphaProteo 等重大革命性突破虽然削弱了一些怀疑之声，但人们仍然认为 AI 只在有限的条件下起效，而且很难真正扩大适用范围。

一种常见的说法就是“AI 能够更好地分析你的数据，但没办法生成更多数据或者提高数据质量。于是仍然只有垃圾进、垃圾出。”我倒是觉得这种悲观情绪对于 AI 的理解是有问题的。如果前文中对于 AI 发展的核心假设切实成立，那么正确的思考方式就不能只将 AI 视为一种数据分析方法，而是将其视为一位虚拟形式的生物学家，能够执行生物学家所做的一切任务，包括在现实世界当中设计并操作实验、发明新的生物学方法或者测量技术等。

生物学进步中那些令人惊喜的成果，往往来自极少数突破性发现，而且这些发现又通常与广泛的测量工具或者技术迭代有关。这些工具或者技术能够对生物系统进行精确、普遍且可编程的干预。这类重大发现每年平均只出现一例，但却推动着生物学领域超过半数的进步。这些发现之所以如此重大，正是因为它们突破了内在复杂性与数据限制两条枷锁，直接增加了我们对于生物过程的理解和控制能力。以十年为周期的这些发现不仅为我们建立起对于生物学的大部分基础科学理解，还推动了一系列前沿医疗方法的诞生。

我想要提出这样一条核心观点：如果能有更多才华横溢、富有创造力的研究人员，那么科研发现率可能会提高 10 倍甚至更多。换句话说，我认为这一领域中的智能提升回报很高，而生物学和医学成果大多数就来源于此。

因此，我估计强大的 AI 至少可以将这些发现的速度提高 10 倍，让我们在未来 5 到 10 年内实现之前 50 到 100 年才能落地的生物学进步。那么为什么没办法提高 100 倍呢？也许也是可行的，但顺序依赖性和实验时间将成为最大的阻碍：在 1 年之内取得 100 年的进步，往往需要很多工作在初次尝试时就成功通过，包括动物实验、显微镜设计还有部署昂贵的实验室设施等。

如果更大胆一点，我甚至愿意相信未来 5 到 10 年内可以实现原本需要上千年的技术进步，但相比之下 1 年内取得百年级别的进步则更加艰难。也就是说，我认为一定存在无法回避的持续延迟：实验和硬件设计必然存在一定“延迟”，即需要进行一定“不可减少”的迭代次数才能提取出单凭逻辑所无法推断的结论。但在此基础之上，科研大规模并行的可能仍然存在。

但这种延迟加上大规模并行化以及合理的迭代轮次，完全可以在 5 到 10 年内催生出前所未有的研发体系。更值得期待的是，AI 生物科学可能会开发出更好的动物和细胞实验模型（甚至是模拟），借此减少临床试验中的迭代需求，通过模型来准确预测人体内会发生什么。这对于开发抗衰老过程的药物尤其重要，因为衰老过程往往需要几十年的时间，我们必须想办法加快迭代循环。

总结以上内容，我的基本预测是，AI 支持的生物学和医学将使我们人类生物学家将原本需要 50 到 100 年取得的进展压缩到未来 5 到 10 年之内。我将其称为“浓缩的 21 世纪”：在开发出强大的 AI 之后，我们将在几年之内取得整个 21 世纪有望在生物学和医学方面取得的所有进展。

下面我列出一份清单，其内容并不基于任何严格方法，而且我也相信在细节上肯定存在各种各样的谬误，但它也能在一定程度上表达我们在强大的 AI 时代下可以抱有的某些期待：

• 可靠地预防并治疗几乎所有 17 种自然传染疾病。鉴于 20 世纪人类社会在对抗传染病方面取得的巨大进步，设想我们在浓缩的 21 世纪中彻底“终结这项工作”其实并不离谱。mRNA 疫苗和类似技术已经指明了“万能疫苗”的发展方向。是否能够将传染病从这个世界上彻底根除（而不是只在某些地方根除），也许只取决于贫困和不平等问题的解决效果。

• 消除大多数癌症。过去几十年来，癌症死亡率每年下降约 2%；因此，按照人类科学的发展速度，我们有望在 21 世纪消除大多数病况。一部分癌症亚型已经基本可以治愈，而我可能期待开发出针对早期癌症迹象并阻止其生物工选择性药物。AI 技术还将使治疗方案能够非常精细地适应不同病患的个性化基因组——这些在当前就已经具备可行性，只是随之而来的时间投入和人类专家成本过于昂贵。相信 AI 技术应该会帮助我们扩大其应用规模，届时死亡率和发病率也许会降低 95% 甚至更多。

• 有效的预防与遗传病治疗方法。大大改进的胚胎筛查可能会令大多数遗传疾病彻底消失，而某些更安全、更可靠的 CRISPR 后续方案则有望治愈现有人群中的大多数遗传病。然而，影响大部分细胞的全身性疾病也许将成为影响人类健康的最后一道难关。

• 预防阿尔茨海默病。我们一直很难弄清楚阿尔茨海默病的致病机理，也许我们可以使用更好的测量工具解决这个问题，利用其隔离生物效应，所以我个人对于 AI 在解决这个问题方面的表现充满信心。一旦理解了其底层致病机理，也许就能通过相对简单的干预措施加以防范。

• 改善大多数其他疾病的诊疗效果。也就是包括糖尿病、肥胖症、心脏病、自然免疫性疾病等在内的其他疾病的统称。其中大多数似乎比癌症和阿尔茨海默病“更容易”解决，而且在许多情况下其危害已经大幅下降。例如，心脏病导致死亡的人数已经下降了 50% 以上，而 GLP-1 受体激动剂等简单干预措施也在对抗肥胖病和糖尿病等方面取得了巨大进展。

• 生物自由。过去 70 年间，节育、生育、体重管理等方面取得了开创性的进展。但在我看来，AI 加速的生物学将进一步扩展这种可能性：体重、外貌、生殖和其他生物学过程将完全由人类掌控。我们将在生物自由的范畴之下讨论每个人都应有权成为他们选择成为的人，并以最向往的方式生活。当然，这个问题还需要兼顾全球范围内的平等获取权等问题。

• 人类寿命倍增。这个观点似乎有点激进，但 20 世纪已经将人类的预期寿命接近翻倍（从约 40 岁增加至约 75 岁），因此“浓缩的 21 世纪”将延续这股趋势，将寿命再次倍增至 150 岁。具体来讲，现已存在的药物可以将大鼠的最大寿命延长 25% 到 50%，且副作用相当有限。另外有些动物（例如某些品种的乌龟）已经拥有 200 年寿命，所以人类的生命长度显然远没有达到理论上限。我猜，决定人类寿命的很可能是某种生物衰老标记，而强大 AI 的出现也许能够找到这种标记，并快速进行临床试验和疗法迭代。一旦人类寿命达到 150 岁，我们也许就能达到生命层面的“逃逸速度”，即目前活着的大多数人都能活到自己想要的年纪——当然，这只是我的一点畅想，并没有明确的生物学理论支持。

看罢这份清单，可以想见从现在起的未来 7 到 12 年间如果能把这些目标一一落实（基本与最激进的强大的 AI 发展进度相匹配），那么现实世界将会被如何彻底颠覆。毋庸置疑，这将是一场难以想象的人道主义胜利，困扰了人类几千年的大多数祸患将被彻底抹除。我有许多亲朋好友都育有子女，当这些孩子长大之后，希望他们眼中的任何疾病都像坏血病、天花或者鼠疫之于我们这代人一样遥不可及。那一代人还将受益于生物自由和自我表达能力的提升，而且幸运的话他们也完全有可能随意控制自己的生命长度。

神经科学加速的四条不同路径

我为生物学制定的基本框架也同样适用于神经科学。该领域的发展也是由少数发现所推动，而且这些发现通常与精确测量或干预的工具相关——在上述清单中，光遗传学就是一项神经科学性，与近期 CLARITY 和扩展显微镜属于同类进步。此外还出现了不少能够直接应用于神经科学的一般细胞生物学方法。我认为这些进步的速度将同样在强大的 AI 的推动下而加快，因此“5 到 10 年内实现百年进步”的框架也将适用于神经科学。毕竟与生物学一样，20 世纪神经科学的进步同样巨大——例如直到 20 世纪 50 年代，我们才意识到神经元的触发方式和机理。因此，期待强大的 AI 能够在未来几年内大大加快神经科学的发展也是合情又合理。

我预计 AI 将沿着四条不同的路径加速神经科学进展，希望所有这些路径都能共同治愈精神疾病并改善其功能：

• 传统分子生物学、化学与遗传学。这基本上与第 1 节中的一般生物学情况类似，AI 很可能通过相同的机制实现加速效果。有许多药物可以调节神经递质，从而改变大脑功能、影响警觉性或感知、调整情绪等，而 AI 可以帮助我们发明更多药物。强大的 AI 也许还能够加速对精神疾病遗传原理的研究。

• 细粒度神经测量与干预。其意义是测量大量单个神经元或神经回路正在做什么，并通过施加干预来改变其行为。光遗传学和神经探针属于对活体生物进行测量和干预的技术，科学家们目前也提出了很多原则上似乎可行的先进方法（例如用于读取大量单个神经元放电模式的分子载带）。

• 先进的计算神经科学。如上所述，现代 AI 的具体见解和格式塔也许能够有效被应用于解决神经科学领域的某些系统问题，例如可能提示精神病或者情绪障碍等复杂疾病的真正原因和动态。

• 行为干预。由于本职工作更多是关注神经科学中的生物学层面，所以我对这一点提及不多，但精神病学和心理学在 20 世纪已经发展出大量行为干预手段。所以可以想见，强大的 AI 的发展成熟一定能够加速这些干预手段的发展，包括开发出新方法、或者引导患者更好地贯彻现有方法。总的来说，“AI 教练”的概念将逐渐落地，通过研究我们的交互行为总结出更具实效的干预手段，最终帮助我们成为更好的自己。

在我看来，哪怕没有 AI 的参与，这四种发展途径的共同作用也将在未来 100 年内治愈或者预防大多数精神疾病，而同样的成果可能在强大的 AI 的加速发展下被浓缩于 5 年到 10 年之内。具体来讲，我对未来的预测包括：

• 大多数精神疾病将可以治愈。我不是精神疾病方面的专家（我在神经科学领域的主要探索方向是构建探针来研究小群神经元），但我猜测 PTSD、抑郁症、精神分裂症、成瘾等疾病可以通过以上四个方向的某种组合来找到非常高效的治疗手段。最终答案可能是“生物化学方面出了问题”（尽管机理可能非常复杂）与“神经网络在高层次上出了问题”的某种组合。也就是说，这是一种系统性的神经科学问题。因此测量和干预工具（特别是适用于人类活体的测量和干预工具）似乎有望推动相关疗法的快速迭代和进步。

• 高度“结构化”的问题可能更难解决，但已并非不可能。有证据表明，精神病与明显的神经解剖学差异有关——精神病患者的某些大脑区域较小或者发育较差。人们还认为，精神病患者从小就缺乏同理心；无论他们的大脑结构有何差异，他们可能也是自小如此。某些智力障碍和其他疾病可能也是如此。重组人脑听起来很难，但似乎也是一项对于智能水平要求很高且回报显著的任务。也许会有某种方法能够诱导成人大脑回归到更早、或者说更具可塑性的状态，从而实现大脑重塑。我不太确定具体有多大的可能，但我直觉且乐观地认为 AI 应该能够在其中发挥比较重要的作用。

• 对精神疾病进行有效的遗传预防似乎是可能的。大多数精神疾病存在一定程度的可遗传性，全基因组关联研究开始在识别相关因素方面获得关注。影响因素往往很多，而通过胚胎筛查也许能够预防大多数此类疾病，原理与预防生理遗传疾病一样。二者的最大区别在于，精神疾病可能涉及更多基因，因此出于其复杂性考量，在不知情的情况下选择与疾病相关的主动特征可能会带来更高风险。但奇怪的是，近年来相关研究似乎表明这种相关性被夸大了。总而言之，AI 加速的神经科学也许能帮助我们搞清楚事情的真相。当然，对于复杂性状进行胚胎筛查还会引发许多社会问题甚至是争议，但我猜大多数人还是会支持对那些严重影响正常生活、或者削弱人体机能的精神疾病进行筛查。

• 那些尚不构成临床疾病的日常心理波动也将得到解决。我们大多数人都有日常心理问题，虽然往往不会上升到临床疾病的水平。比如有些人特别容易生气，有些人难以集中注意力或者经常昏昏欲睡，有些人容易害怕或者焦虑，也可能特别抵触面对变化。如今，已经存在不少有助于提高警觉性或者注意力的药物（如咖啡因、莫达非尼、利他林等），但与许多其他先前研究领域一样，其中还有更多可能性有待探索。可能还有更多此类药物存在但尚未被发现，也可能存在全新的干预方式，如有针对性的光刺激（即前文提到的光遗传学）或磁场干预。考虑到我们在 20 世纪开发出了这么多能够调节认知功能和情绪状态的药物，我对于“浓缩的 21 世纪”非常乐观，相信每个人都可以让自己的大脑表现更好、进而获得更充实的生活体验。

• 人类的基本体验可以好得多。更进一步讲，许多人都经历过非凡的启发性时刻，例如创作灵感迸发、同情性共鸣、满足感、超越感、爱、美或者冥想等等。这些体验的特征和频率因人而异，同一个人在不同时间也在很大差异，有时甚至可能是由各种药物所引发（虽然通常会有副作用）。所有这些都表明，“潜在体验的空间”极其广阔，人类生活中的很大一部分可能就是由这些非凡时刻所构成。这种能力还有望全面改善各种认知功能，也许可以将其理解成神经科学版的“生物自由”或者“延长寿命”。

科幻小说里经常会出现“意识上传”的主题，即捕捉人类大脑的模式和动态，并在软件层面进行实例化。但我故意没有在文中讨论。一方面是因为这个主题本身就足以支撑起另外一篇文章，另外我觉得虽然意识上传在原则上几乎肯定可行，但在实践中却面临着重大的技术和伦理挑战。所以即使强大的 AI 如约降临，这个问题也超出了我们关注的未来 5 到 10 年的时间窗口。

总之，AI 加速的神经科学可能会大大改善大多数精神疾病的治疗方法，甚至将其彻底治愈，同时极大扩展“认知与精神自由”以及人类探索世界、探索内心的能力。 因此它与身体健康一样拥有广阔的改善空间。也许未来的世界在表面上看并没什么明显不同，但人类所体验到的将是一片更美好、更加人性化的天地，也是一个提供更多自我实现机会的地方。我始终认为，心理健康的改善有助于解决一系列社会问题，包括那些看似属于政治或者经济范畴的问题。

AI 无所不包，人类如何生存？

即使前文讨论的所有方向都得到顺利发展，至少还有一个重要问题仍然存在：有人可能会反对说：“我们生活在一个技术如此先进、公平且体面的世界中，那么随着 AI 的出现和介入，人类的意义又将如何体现？换句话说，人类的经济独立性在哪里？”

我觉得这些问题比之前的问题都难回答。这倒不是说我个人在这个问题上持悲观态度（虽然确实是个不小的挑战），只是说这个问题更模糊、更难提前预测，因为它涉及到社会组织方式的宏观问题，而这些问题往往只能随着时间推移的方式自行解决。例如，历史上依托于狩猎和采集的社会可能认为，如果没有与狩猎相关的各种祭祀仪式，人类的生活将毫无意义。在他们看来，未来这个衣食无忧的高科技时代根本就是离经叛道。他们也很难理解我们的经济系统如何养活每一个人，或者人们在如此机械化的社会中还能发挥什么作用。

话虽如此，但我还是想多聊几句。并不是说我对待问题的态度不认真，只是说这些问题确实很难找到明确的答案。关于意义的问题，我认为单纯因为 AI 可以做得很好就认为我们自己从事的工作毫无意义，这可能是种认知误区。大多数人在任何方面都做不到特别优秀，但这似乎也没有特别困扰到他们。

当然，今天的人类仍然可以通过比较优势来做出贡献，并可能从自己创造的经济价值中找寻意义。但必须承认，人类也很享受那些不产生任何经济价值的活动。比如我自己就会花很多时间玩电子游戏、游泳、在户外散步还有跟朋友聊天，所有这些都不会产生任何经济价值。我可能会花一整天的时间把某个游戏打得更好，或者是尝试刷新某一路段的骑行速度。对我自己来说，世界上有没有其他人在这些事情上比我做得更好根本就不重要。

总而言之，我认为意义主要体现在人际关系和交互上，而非经济劳动。人们确实需要某种成就感或者说竞争感，而在后 AI 时代下，大家完全可能投入数年时间、配合复杂的策略来尝试一些非常困难的任务，就像如今的人们开设科研课题、想要在好莱坞中崭露头角或者是创办一家企业时做的那样。也就是说，有没有某种 AI 方案原则上能够更好地完成这项任务，或者说这项任务在全球经济体系中能不能创造任何价值回报，其实根本就没有那么重要。

而经济的部分对我来说要比讨论意义更为困难。本节中提到的“经济”，其实是指大多数人甚至全体人类可能都无法再为足够先进的 AI 驱动经济做出有意义的贡献。这是个比不平等问题更加宏观的问题，我只能尽量以自己有限的认知提出一点设想。

首先，在短期之内，我认为比较优势将继续支撑人类在经济活动中存在并不断提高生产力水平，甚至可能在某种程度上让人类之间的竞争环境更加公平。只要 AI 能在特定工作的 90% 情况下表现更好，那么其余 10% 反而会令人类的价值得到凸显、拉高薪酬，实际上创造大量新型人类工作岗位，借此补充并放大 AI 所擅长的任务。这样“10%”的部分就足以为几乎所有人提供饭碗。

事实上，哪怕 AI 在 100% 的事情上都比人类做得更好，但在某些任务上仍然存在效率太低或者成本太高的问题。又或者，如果人类和 AI 的资源投入存在显著差异，那么比较优势的逻辑仍然适用。人类可能在相当长的时间内保持相对（甚至绝对）优势的领域就是物理世界。因此，我认为即使我们建立起了所谓的“运行在数据中心内的天才之国”，人类经济也仍将存在并具有现实意义。

但我也相信从长远来看，随着 AI 变得越来越广泛、有效且成本低廉，那么人类的比较优势终将消失。到那时，我们现有的经济架构将失去意义，社会需要就经济的未来组织形式开展广泛讨论。

虽然这听起来可能很疯狂，但事实就是，文明在过去已经成功经历过好几轮重大经济转变：从狩猎采集到农耕，从农耕到封建主义，从封建主义到工业主义等。

我怀疑未来会出现一些新的、更奇特的制度，而且是如今的人们几乎无法设想的。它可能很简单，比如为每个人提供可观的全民基本收入，当然我觉得这恐怕只能是实际解决方案中的一小部分。也可能是基于 AI 系统的精密资本主义经济，再由 AI 系统根据其认定对人类有意义的某种次级经济制度（基于从人类价值观中提取出的某种判断）向人类提供资源（由于整体经济蛋糕足够大，所以这部分资源也将非常可观）。又或者，人类将演进出另外某种形式的经济价值，只是超出了现有经济模型的分析框架。

所有这些解决方案都存在大量潜在问题，如果不进行充分的迭代和实验，也无法确定其是否适用于现实。与其他一些挑战一样，我们也必须努力才能获取理想的结果：加重剥削或者反乌托邦的情况同样可能出现，必须加以防范。总之这就是我自己的一点思考，或者也可以叫臆想，仅供大家参考。

原文链接：

https://darioamodei.com/machines-of-loving-grace