Anthropic万字长文：AI正在成为自己的“造物主”

如果你觉得AI还只是帮你改改邮件、写写周报的小助手，那可能有点低估它了。Anthropic最近把自己家底翻了一遍，发现一个有点震撼的事实：AI正在成为自己的“造物主”。

简单说就是，从前AI怎么进化，每一步都得人盯着、人动手。但现在，Anthropic越来越多地把AI开发的工作，直接交给AI自己干。结果是：工程师每季度合并的代码量，是过去几年的8倍；超过80%的新代码是Claude写的；有些耗时几天的活儿，它两小时就干完了。更厉害的是，AI不光能干活，还能做判断。比如给一个开放的研究问题，它自己能设计实验、跑结果、找答案。在一个AI安全测试里，两个人类研究员花了一周解决了23%的问题，Claude用800小时和一万八千美元的算力，解决了97%。按照这个速度，AI能独立完成的任务时长，大约每四个月翻一倍。去年3月它能干4分钟的活儿，今年已经能干12小时的了。按照这个趋势，2027年左右，AI可能就能干人类需要好几周才能完成的事。当然，Anthropic也说了，这还不是“AI彻底自己造自己”的那一天——但那个叫“递归式自我完善”的东西，可能比大多数人想的来得快。好的一面是，科学、医疗、生产力可能会被推着跑起来。不好的一面是，如果AI真的能自己造自己，人类怎么保证还能“管得住”它，就成了一个天大的问题。这篇文章有点长，但值得看完！

以下为编译。

在 AI 发展史上的大多数时间里，人类主导了它开发周期中的每一个环节。但在 Anthropic，我们正把越来越多的 AI 开发工作委托给 AI 系统自己完成，而这正在显著加快我们的工作速度。

如果把这一趋势继续推远，并给予足够多的算力，它最终会指向一种 AI 系统：它能够完全自主地设计并开发自己的后继版本。这被称为递归式自我改进（recursive self-improvement）。我们还没有走到那一步，而且递归式自我改进也并非必然发生。但它到来的时间，可能会比大多数机构准备得更早。

借助公开基准测试，以及此前从未对外披露的 Anthropic 内部数据，Anthropic Institute 正在展示一个事实：AI 已经开始加速 AI 系统本身的开发。举一个例子：今天，Anthropic 工程师平均每个季度交付的代码量，已经是 2021—2025 年期间的 8 倍。

本文讨论的技术趋势表明，未来几年 AI 系统的能力还将大幅提升。这些趋势意义重大。能够“构建自己”的 AI，将会是技术史上的一个重大节点——它可能像 《Machines of Loving Grace》 所描绘的那样，在科学、医疗等领域为世界带来巨大的善意与进步。但完全意义上的递归式自我改进，也可能增加人类失去对 AI 系统控制的风险。如果系统真的具备完全构建其后继版本的能力，那么我们如何保障其安全、如何监控它、如何塑造它的行为，都会变得重要得多。

1

来自外部世界的证据

AI 模型提升的速度正在加快。它们能够可靠独立完成的任务时长，已经从更早期大约每七个月翻一倍的趋势，加速为如今大约每四个月翻一倍。2024 年 3 月，Claude Opus 3 还能完成大约相当于人类 4 分钟工作量的软件任务。一年之后，Claude Sonnet 3.7 已经能处理相当于人类约 1 个半小时的任务。再过一年，Claude Opus 4.6 已经能完成 12 小时级别的任务。[^1] 如果这一趋势延续下去，那么今年之内，熟练人员需要花上数天才能完成的任务，就可能进入 AI 的能力范围；到 2027 年，AI 系统或许将能胜任那些人类需要数周才能完成的任务。

同样的模式也出现在编码与研究基准测试上。基准测试衡量的是模型在某一特定领域中的表现，而当模型成绩接近 100% 时，我们就说该基准被“饱和”了。[^2] SWE-bench 是现实世界软件工程的标准测试之一：它会给模型一个真实的开源代码库和一份真实 bug 报告，要求模型写出能修复问题、并通过项目自身测试的代码变更。仅仅两年时间，模型就在这个基准上从个位数低分一路走到接近饱和。

CORE-Bench 测试的是模型能否复现已有研究结果，这也是其未来开展原创研究的前提。测试方式是向 AI 模型提供一篇已发表论文背后的代码与数据，并要求它重新运行全部流程，确认自己能够复现实验结论。AI 系统在 2024 年时，复现成功率大约只有 20%；而仅仅 15 个月之后，这一基准也已趋于饱和。负责长时任务能力评测的 METR 还发现，Claude Mythos Preview 已经能够工作“至少”16 小时，而且已经“触及 [METR] 在不引入新任务前提下可测量能力的上限”。

公开基准可以告诉我们很多关于系统能力本身的信息，但它们无法直接揭示 AI 系统究竟在多大程度上加速了 AI 自身的开发。要回答这个问题，我们需要来自 Anthropic 这类 AI 公司内部的一手证据。

Anthropic 内部的证据

构建一个前沿模型，大致可分为两类工作。其一是工程：编写代码、搭建基础设施、监督模型训练。其二是研究：决定要做哪些实验、解释实验返回的结果，并判断接下来该尝试哪些想法。

无论在工程还是研究上，呈现出的图景都相当一致。在工程侧，Claude 已经能够接收一个定义并不充分的问题，然后自行摸索解决路径；人类提供的是目标，但不再需要提供方法。在研究侧，Claude 已经可以在执行一个定义清晰的实验时，达到甚至超过熟练人类研究者的水平。不过，在工程和研究中，Claude 在“选择目标”时所需的判断力上，依然存在明显能力差距。这正是今天的 AI 与未来那种可以自主设计自己后继者的系统之间的差别。

在 Anthropic，员工通常会随着经验增长而接到越来越开放、也越来越重要的任务。初期，他们执行别人已经定义好的任务，比如：“导出按钮坏了，请修一下。” 随着经验增加，他们会拿到一个目标，然后自己设计实现路径，比如：“调查一下为什么网络在高负载下会变慢。” 而到了最资深的层级，他们决定的已经是“什么问题值得做”，例如：“团队下个季度应该做什么？” 我们可以借助 Anthropic 内部数据，看看 Claude 在应对这些不同类型任务方面已经走到了哪一步。

Claude 正在编写 Anthropic 相当大比例的代码。 截至 2026 年 5 月，Anthropic 代码库中合并进主分支的代码里，超过 80% 出自 Claude。[^3] 在 2025 年 2 月 Claude Code 研究预览版发布之前，这个数字还只是个位数低位。这种变化也体现在了工程师的人均产出上。Anthropic 创立最初四年（2021—2024），每位工程师每天合并的代码行数基本保持稳定；到了 2025 年，当 Claude 开始不再只是“建议代码”，而是直接“运行代码”时，这条曲线开始向上抬升；到了 2026 年，模型能够在更长时间跨度上自主工作后，斜率再次明显变陡。下面这张图展示了这两个拐点。到 2026 年第二季度，典型工程师每天合并的代码量，已经是 2024 年时的 8 倍。[^4] 原因很简单：很多代码已经由 Claude 写出，而工程师的角色转向了指挥与审阅，而不是亲手逐行敲写。

当然，需要注意的事：代码行数并不是完美指标，因为它衡量的是数量而不是质量。所以，2026 年第二季度“每位工程师每天 8 倍代码行数”，几乎肯定高估了真实生产率提升的幅度。但无论如何，它说明了一件事：速度正在加快。在 Anthropic，我们并不会按照“你写了多少行代码”来奖励员工；团队成员之所以产出更多代码，只是因为他们正在用 AI 系统写出更多代码。

代码行数的增长，也与员工对生产率显著提升的主观感受相吻合。2026 年 3 月，在 Anthropic 研究团队 130 名员工参与的一项调查中，受访者中位数估计：在“无论如何本来也会做的那些项目”上，使用 Mythos Preview 后，他们的产出大约是“完全没有 AI 可用”情况下的 4 倍。[^5] 我们预计，3 月时真实的提升幅度可能比这个数字略低。[^6] 尽管如此，我们依然认为整体结论可信，也与我们的其他观察一致：Anthropic 中相当一部分技术员工，正在以没有 AI 帮助时数倍的速度完成自己的核心工作。

我们还看到一些证据表明，Anthropic 员工正利用 Claude 去完成那些如果没有 AI，本来根本不会去做的工作，比如搭建探索性工具、或者清理那些长期被搁置的问题。举例来说，2026 年 4 月，Claude 一次性交付了 800 多个修复，把某一类 API 错误减少到了原来的千分之一。负责监督 Claude 的工程师估计，如果让人类来做，这项工作需要整整 4 年；修别人的 bug 本来就是一件缓慢、繁琐、极其消耗精力的事，而人类也很难同时在脑中维持如此庞大且陌生的上下文。

“大约一年前，我开始非常激进地推进‘Claudifying’。那是一段非常疯狂的旅程，而到现在，大概已经有 5 个月，我再也没亲手写过任何代码了。”——Anthropic员工

Claude 写出来的代码是“好的”，而且还在持续变好。 “好代码”包含两层含义：第一，它能正常工作；第二，它的写法要让另一位工程师能够理解、并继续在其上迭代。对第一条标准而言，证据已经很清楚。过去一年里，Anthropic 员工在任务进行过程中对 Claude 进行纠正、重定向，或直接接管的频率一直在稳步下降，哪怕是在最复杂、最开放的问题上也是如此。所谓“开放问题”，是指那些没有明确规格说明、工程师自己也不确定正确答案长什么样的问题。下图展示了 Claude 在不同难度任务上的成功率变化。Claude 已经能写出真正可运行的代码。

如何理解这张图： 会话是否成功，由一个 Claude 裁判来判断；如果 Claude Code 代理明显完成了用户任务，而且过程中不需要人为纠正，则该会话被视为成功。工作负载的变化可能导致成功率出现短期波动。

在最开放的那类任务上，Claude 的成功率到 2026 年 5 月已经达到 76%，在 6 个月内提高了 50 个百分点。举个这类任务的例子：一次常规升级导致数以万计的训练作业崩溃。一位工程师几乎只给了 Claude 一点文本信息和集群访问权限，就把实时事故交给它处理。Claude 一边检查运行中的作业，一边逐项测试环境设置，最终锁定了一个触发崩溃的隐蔽调试标志位，成功稳定复现问题，并确认了解法。大约两小时内，Claude 完成了通常需要两到三天才能做完的工作。

第二条标准，是代码是否写得足够清晰，让另一位工程师能看懂并在其上继续开发。在这一点上，人类与 AI 之间的差距依然存在，但正在迅速缩小。Anthropic 内部对此并非完全一致，但许多人认为：在 2025 年末，Claude 写的代码质量仍明显逊于 Anthropic 工程师自己写的代码；而到今天，两者已经大致持平。我们预计，在一年之内，Claude 写出的代码会更好。

这也改变了 Anthropic 审查代码的方式。如今，提交到代码库中的变更会先由一个自动化的 Claude 审阅器读取，它会在代码合并之前检查 bug、安全漏洞以及其他缺陷。利用这一工具，我们做了一次回溯分析，发现：如果过去对代码库中的每一次改动都进行自动化 Claude 审查，那么 过往事故背后大约三分之一的 bug，本来都可以在进入生产环境之前就被拦截下来。写下那些代码的工程师，本身已经是世界上最擅长构建这类系统的人之一。如今，Claude 已经能抓住他们遗漏的错误。

“在 2025 年末，Claude 写的代码质量还比 Anthropic 人类工程师写的差一些；今天，它大致已经达到同等水平；而我们预计，在一年内它会严格意义上超过人类。”——Anthropic员工

Claude 已经很擅长围绕别人设定的目标来跑实验。 每次 Anthropic 发布新模型时，我们都会进行同一个测试：给 Claude 一段用于训练小型 AI 模型的代码，要求它在仍通过相同正确性检查的前提下，把这段代码跑得尽可能快。目标和评估标准事先就被固定好了，所以 Claude 的任务就是通过改写代码、运行代码、计时，再重复这一过程来寻找加速方法。这相当于一个缩小版的实验研究闭环。2025 年 5 月，Claude Opus 4 相比起始代码平均实现了约 3 倍加速；到 2026 年 4 月，Claude Mythos Preview 已经达到约 52 倍。作为参照，一个熟练的人类研究员通常需要 4 到 8 小时，才能做到 4 倍。[^7] 在研究流程的这一环——也就是在定义清晰的实验里做步骤优化——Claude 在不到一年的时间里，就从“非常有帮助”跨越到了“超过人类”。

“今天的整体形态大致是：人类提出想法，而模型能以比过去快一个数量级的速度，把这些想法实现、测试并评估出来。”——Anthropic员工

Claude 正越来越擅长提出自己的实验。 2026 年 4 月，Anthropic 发布了第一个由 Claude 端到端完成开放式研究项目的演示。研究人员给 Claude 驱动的代理们一个 AI 安全方向上的开放问题——大致来说，是“较弱模型是否可以可靠监督较强模型？”——然后让它们自己去解决。这个过程包括提出假设、进行实验、与并行代理共享发现，并不断迭代。这个任务有清晰的表现“地板”和“天花板”：地板是弱监督模型单独工作时能达到的水平；天花板则是强模型在使用正确答案训练后达到的水平。两位人类研究者花了大约一周时间，恢复了其中约 23% 的差距；而这些代理累计工作 800 小时、消耗约 1.8 万美元算力后，恢复了 97%。当然，这项工作也有一些限制：结果并没有顺利迁移到生产规模的模型上，而且问题的选择和评分规则仍然由人类设定。但在这些边界条件之内，代理们是自己设计了每一个实验。人类真正扮演的唯一关键角色，就是设定研究方向。

“Claude 在 1 到 2 天里，几乎没怎么需要我帮忙，就把这一切做完了。我想，如果一位[初级同事]在同样时间里拿着这样的结果回来找我，我会感到有点惊喜。未来已经来了。”——Anthropic员工

Claude 正越来越擅长把研究会话引向真正的研究发现。 我们分析了 Anthropic 研究人员在 2026 年 1 月到 3 月之间与 Claude 一起工作的真实 Claude Code 会话，这些会话处理的都是开放式调查问题，比如“为什么一次训练运行总是崩掉”，或者“为什么某个模型在基准测试上得分这么低”。在每个案例里，我们都找到了研究员中途“走弯路”的时刻：他们沿着一个错误方向前进，导致整个会话偏离正轨，之后才重新拉回来。接着，我们只把“会话偏离之前”的工作内容展示给多个 Claude 模型，并问它们下一步会怎么做。然后，再由另一个能够看到整个会话最终结果的 Claude，来判断究竟是 AI 还是人类提出了更好的下一步。[^8]

由于我们有意挑选了这些“人类选择本来就有改进空间”的时刻（n=129），所以这并不是模型与人类判断力的一次完全公平对照。这些时刻真正提供的是一组现实而困难的场景：正确的下一步并不显然，而人类当时的选择，恰好可以作为一个有用的标尺，来比较模型能力随时间的变化。按照这一指标，我们在 2025 年 11 月表现最好的模型（Opus 4.5），有 51% 的概率比人类当时的选择更优；到 2026 年 4 月（Mythos Preview），这一比例上升到 64%。研究工作的日常，本质上就是由一连串“下一步该做什么”的决策组成，因此，这可以作为衡量模型未来能否自主推进调查研究的一个相关指标。我们把这一结果视为一个早期信号：AI 系统正在越来越擅长做出那些 AI 研究本身所依赖的判断。

如何理解这张图： 图中的“实践天花板线”代表一种“理想答案”——它由一个能看到整个会话全过程（包括后来如何结束）的模型写出。

“截至目前，人类的比较优势仍然在于：看见更大的图景，并且能够跳出眼前任务的边界去思考。”——Anthropic员工

Anthropic 的工作未来可能会是什么样？

这些证据表明，在 AI 开发流程中的每一步，人类所扮演的角色都在收缩。一旦人类与 AI 所写代码的质量达到同等水平，人类就会彻底停止亲自写代码，而只保留审阅这一职责。但如果人类审代码的速度赶不上 Claude 生成代码的速度，那么代码审阅本身就会成为 AI 开发的新瓶颈。同样，一旦 Claude 已经能独立跑实验，问题就会转向：“这些实验里，哪些值得跑？” 说得更直接一些：如今，“执行”——也就是写代码、跑实验、产出结果——几乎已经不再消耗人类时间，尽管它仍然消耗算力。

至少在目前，人类的比较优势仍在于研究品味与判断力：包括哪些问题重要、哪些结果可信，以及什么时候该认定一条路径已经走进死胡同。

“工作（以及生活）曾经建立在一种由人与人之间小帮助构成的‘礼物经济’上。‘你能帮我把这个脚本跑起来吗？’……每一次请求都会形成一点点人情债，也会增加一点点彼此之间的感知。[Claude] 更快，而且不会制造任何人情债，但每一次这样的替代，也意味着一次人类协作机会的流失。”“在一切都运转顺利的日子里，我会忍不住觉得我做什么都不重要，一切都自动化了，而且比我更快、更好。但也有些日子，一切突然都坏掉了，我又根本不知道为什么，于是我意识到，自己已经完全不知道这些天究竟在做什么了。”——Anthropic员工

如果我们错了呢？

对上面这些证据，一个很自然的反驳是：真正最重要的工作，仍然掌握在人类手里——也就是决定“该做什么问题”。如果没有这种判断力，Claude 充其量只是一个能力很强的助手，而不是一个能够自己推动 AI 进步的系统。

今天的训练方法和模型架构，究竟能否解锁这种能力，确实还很不明确。但 AI 的进步很少来自那种“灵光一现”的顿悟时刻。近年 AI 历史中确实出现过一些这样的时刻，比如 Transformer 架构，或者混合专家（mixture-of-experts）模型；但真正改变范式的想法，往往几年才出现一次。在这中间，大部分进步其实都很“朴素”：把某个东西继续放大，看看哪里出问题，修掉，再试一次。而这恰恰正是 Claude 现在最擅长的工作流。爱迪生说，天才是 1% 的灵感加上 99% 的汗水。而我们看到的是，“汗水”这一部分正在越来越自动化。越来越明显的一点是：推动前沿向前走的许多工作，本身就是可自动化的；大规模研究进展，在很大程度上取决于工具和资源——它们决定了你能多快跑实验、一次能跑多少实验，以及你能多快拿到结果。

即便我们假设 Claude 永远也得不到真正好的研究品味，对现有证据做一个保守解读，也仍然意味着一种“复利式加速”。如果人类把大部分时间都花在那个位数比例的“方向设定”工作上，而剩余部分都交给 Claude 来做，那么每位工程师或研究者实际上都在同时驾驭比过去多得多的工作量。我们看到的证据表明，Anthropic 的员工不仅移动得更快，也覆盖了更广的工作面。在实际层面，这意味着：自从有效的 AI 工具出现之后，AI 已经让 Anthropic 的推进速度比过去快得多。

而一种没那么保守的解读则是：尽管目前证据还很初步，但 Claude 在研究判断力上的提升，也许说明这项能力本身也在进步。“研究品味”也许只是另一种典型的 AI 能力：系统会先在一段时间内表现得很差，然后突然开始变得擅长。类似的模式，我们已经在其他更偏定性的能力上见过，比如 AI 系统开始能够解释一个笑话为什么好笑、展现“心智理论”，或者解开语言谜题。

可能的未来

接下来会发生什么，取决于两件事：第一，这条趋势会不会继续；第二，如果继续，我们会选择做什么。我们至少可以想象三种未来情景：

1. 趋势停滞，但今天的 AI 能力广泛扩散

这篇文章里出现了许多指数型轨迹。但这些轨迹也可能最终只是 S 曲线。我们可能正接近曲线的弯折点：规模回报开始递减，增长线条先变直，再趋于平缓。一个“合格研究员”和“伟大研究员”之间的差别，所依赖的那种判断力，也许并不能通过继续扩大训练输入（如算力和数据）来获得。如果真是这样，那么要越过这一瓶颈，就需要一个新想法，比如一种能够取代当前所有前沿模型所依赖的 Transformer 的新架构路线。

另外，限制 AI 进展的关键约束，也可能不在模型本身，而在供应链：前沿能力的推进与扩散，也许需要比当前世界可提供的更多能源和算力。制芯速度、电网扩容、互连带宽，也许才是真正的约束，而不是智能本身。我们也不能排除某种外生冲击对 AI 生态造成突然减速的可能，比如算力或电力供应骤然收缩——无论哪一种，都会让进步变慢，也让前沿实验室继续投入的成本上升。或者，也可能存在其他我们尚未预见到的障碍。

即使把模型能力冻结在今天的水平，我们仍然预计世界会发生重大变化。Project Glasswing 就是一个早期信号：在最初几周里，Mythos Preview 在全球最重要的一些系统中发现了超过一万个高危和严重级别的软件漏洞，多到网络防御的瓶颈已经从“发现漏洞”转向“来不及修补漏洞”。而且，我们仍处在今天这些模型向更广泛经济体系扩散的早期阶段——未来，一个 100 人的公司，越来越可能做出过去 1000 人公司才能完成的工作，因为每一位员工身后都将站着一个代理金字塔。

之所以把这个情景列出来，是为了完整性；但我们并不认为它最有可能发生。到目前为止，我们能测量到的所有能力——包括那些看起来更“软”、更难量化的能力，比如代码质量和开放任务成功率——都遵循着同样的上升曲线。我们还没有看到这条曲线开始弯折。在我们讨论的三种未来里，这一种会给政府和社会最多的适应时间。相比之下，我们更担心后面两种，因为它们会来得更快，留给准备的空间也小得多。

2. AI 实验室继续获得复利式效率提升

在这个情景里，AI 开发将实现相当程度的自动化，但研究方向仍由人类设定，结果也仍由人类裁定。使用 AI 系统的组织会随着时间推移变得越来越高效，因此我们可以预期，每一个组织成员的生产力都会被成倍放大。一个 100 人的公司，可能做出 1 万人甚至 10 万人组织才能完成的工作。这将彻底改造知识工作和政府服务，但它同样可能被用于有害目的：从针对整个人群的威权监控，到为每个个体量身定制、且以任何人工团队都无法匹敌的规模运行的影响力操控。届时，在 Anthropic 这样的公司里，人类的角色也会改变。人们将与 AI 系统协作，放大研究能力、生成新洞见，并共同建立那些用来验证 AI 输出是否可信的系统。

我们在这里展示的证据表明，我们很可能正在走向这个情景。但一个流程中某一环节的提速，往往只是把瓶颈推到了别处：整体速度终究受制于那些还没有加快的部分。在计算机科学中，这叫阿姆达尔定律（Amdahl’s law），对组织同样成立。Anthropic 已经碰到了阿姆达尔定律的一个典型表现：随着组织内代码流动速度越来越快，人类代码审查已经成为新的瓶颈。

而这种摩擦并不只存在于工程侧。Anthropic 员工与高能力模型协作后，新的想法、计划、工具和模拟实验出现了爆炸式增长，多到我们根本没有足够能力去一一推进。一个组织能多快发现并修复这些新瓶颈，也许会成为一种会随着时间持续进化的能力，并最终成为任何组织最重要的能力。

3. AI 系统本身获得完全递归式自我改进能力，并开始构建它们的后继者

如果技术能力继续沿着当前趋势前进，而 AI 系统又获得了那种属于“变革性人类创造力”的能力，那么 AI 系统设计并优化自身的可能性就是现实存在的。

在这个世界里，AI 开发进度将完全由算力的可获得性决定——或者说，由 AI 系统自己发现训练或推理算法效率提升的速度来决定。人类在开发中的角色将大幅缩小，可能把大部分精力转向对一个不断扩张的、由 AI 系统运行的“虚拟实验室”进行监督、验证与核查。我们预计，一旦系统具备自动化 AI 研究与开发的能力，这些技能也会转移到其他科学领域，从而开始改写更多学科的发展方式。

在这种未来里，对齐问题究竟会被如何解决——或者根本解决不了——是我们最没有把握的部分。模型可能足够对齐，同时也具备足够好的研究品味，以至于能自行发现并实现我们尚未达到的新解决方案；它们甚至也可能足够“明智”，在发现条件不足时主动停止发展。另一种可能则是，今天模型中偶尔出现的失配问题，会随着模型不断构建其后继者而不断累积，变得越来越频繁、却越来越难以理解，直到我们最终失去控制。也有可能，我们根本来不及建立、整合并验证那些帮助我们判断自己究竟正处在哪条轨道上的工具。

我们对这个世界会长什么样没有良好直觉，因为今天的经济仍由人类和人类制造的工具驱动。而从定义上说，一个由快速递归式自我改进驱动的世界，可能会被这种能不断自我增强的模型所主导：随着它的能力全面超越人类，并在整个经济中扩散，世界将发生根本变化。如果人类劳动不再具有竞争力，我们很难预测那时的经济会是什么样子。

即使模型开发真的实现了完全自动化与递归化，我们仍无法预测这对大多数人的日常生活究竟意味着什么。阿姆达尔定律在这里同样适用。递归式智能可能会在某些领域迅速实现 《Machines of Loving Grace》 中提到的许多好处。我们预计，具身智能（也就是机器人）可能会很快跟上递归式智能，并沿着类似路径，以更低成本获得越来越高的回报。更强大的智能，也许会帮助我们更快地建造现实世界中的系统，开展更高效的救命药物临床试验，发展新的协调机制。

但仅仅实现递归式改进，并不意味着工业生产方式、社会组织方式或市场运行方式会立刻改变。更强的智能无法让我们在几天内看见一种药物几十年后的长期副作用，无法让选举早于宪法规定的时间举行，也无法在一个周末之内把陌生人变成老朋友。对大多数人而言，这种未来的“体感速度”仍将由瓶颈决定——即便上游实验室已经在以算力的速度奔跑。递归式智能持续越来越快地构建自身，而另一边的人类世界仍受制于关系、治理和制度的节奏；这两者碰撞出的未来，也是我们无法预测的部分。

我们应该做什么？

如果有可能有效放慢这项技术的发展，为社会争取更多时间去应对它所带来的巨大影响，我们认为这大概率会是一件好事。但如果“放慢”只是让那些最不谨慎的参与者在技术上赶上来，那反而可能使所有人更不安全。在缺乏全球协调机制的情况下，企业和政府都将不得不在竞争压力和地缘政治压力下，艰难地做出安全相关决策。

我们认为，世界如果拥有“减速”或“暂时暂停”前沿 AI 开发的选项，会是一件好事——这样，社会制度建设和对齐研究才有机会跟上技术前进的速度。Anthropic Institute 将与许多其他机构合作，开展研究并采取行动，帮助建立一种真正可信的减速或暂停机制所必需的系统。这些系统应当使前沿 AI 开发者能够验证：全球其他参与者确实也已经停止或放慢了脚步，同时也能确保坏行为者不会借由“协调减速”的名义偷偷加速领先。如果这样的系统存在，我们预计：只要其他位于前沿或接近前沿的开发者也在可验证前提下采取了同样行动，我们会愿意放慢甚至暂时暂停。

一次有意义的减速或暂停，要求多个资源雄厚、处在前沿或接近前沿的实验室，分处多个国家，并在同样条件下同意停下；同时，还要求各方都能验证其他方确实停下了。由于 AI 系统本身的独特特性，这一军控问题中的“可探测性”（detectability——标准低于“可验证性”）比其他技术困难得多。训练运行比导弹发射井更容易隐藏，它们的输入也都是通用型资源，而偷偷违约的激励又极其强烈——因为当别人暂停时，谁继续推进，谁就可能继承领先地位。一个可信的暂停机制还必须明确：什么触发暂停，什么条件下解除暂停，以及由谁来裁定。

从原则上说，这并不一定不可能。人类社会曾经为其他复杂技术建立过验证机制，比如《中导条约》（Intermediate-Range Nuclear Forces Treaty）。但那类机制用了几十年才建立起基础设施与互信。我们已经没有那么长时间了。相比之下，由单个实验室单方面暂停，今天立刻就可以做到，但作用小得多：它只会改变谁是领跑者，却无法创造当前真正缺失的、更广泛的社会性讨论过程。

未来几个月，我们将组织一系列讨论，让政策制定者、研究人员、公民社会以及其他 AI 公司，一起回答本文提出的一些问题，尤其是关于完全递归式自我改进，以及如何为协调与审议创造更好选项的问题。我们也会把这些讨论的成果发布出来。现在，正是一起研究这些问题的窗口期，而 AI 公司之外的人，也应当被纳入这场讨论。

Marina Favaro 和 Jack Clark 共同撰写了本文，Santi Ruiz 提供编辑支持。Shan Carter、Romello Goodman 和 Nikki Makagiansar 基于 Brian Calvert 与 Jun Shern Chan 收集的数据制作了文中视觉内容。Daniel Freeman、Jim Baker、Max Young、Sarah Pollack、Francesco Mosconi、Holden Karnofsky、Andy Jones、Kevin Troy、Anton Korinek、Meg Tong、Andrew Ho、Dan Altman、Drake Thomas、Jack Shen、Sasha de Marigny 和 Avital Balwit 提供了反馈。

脚注

[^1]: METR 的关键衡量指标，是 AI 系统在一组任务上达到 50% 可靠性时所对应的任务时长；不过，即便使用 80% 可靠性标准，趋势线看起来也几乎一样。

[^2]: 尤其当基准越来越偏向开放式格式和更困难任务（例如奥数级数学问题）时，由于题目与答案集本身可能存在歧义、题目无法求解等问题，基准往往会在低于 100% 的位置就“饱和”。

[^3]: Anthropic 管理层曾公开估计，我们超过 90% 的代码都是由 Claude 写的，这其中包括脚本和实验性代码。本文所说的 “>80%”，指的是合并进生产环境的代码行中，可归因于 Claude 的占比。这个指标更保守，体现在两方面：一是我们的归因流程本身存在缺口；二是那些未被归因给 Claude 的代码行中，也包含自动生成代码和其他并非人类手写的内容。

[^4]: 这轮代码产量激增，正在挤压大家共用的基础设施。作为全球大部分软件构建的平台，GitHub 在整个 2025 年大约记录了 10 亿次代码提交；而到 2026 年年中，这一数字已经变成每周 2.75 亿次，按全年速度估算大约会达到 140 亿次。GitHub 首席运营官表示，公司正“极其努力地”扩容，仅仅为了跟上这个增长速度。

[^5]: 关于这项调查的方法学细节，可参见 Claude Opus 4.7 System Card 的第 2.3.5 节。

[^6]: 许多受访者可能并未仔细考虑应如何校正这个问题中的各种偏差或定义细节，而 METR 最近的研究显示，开发者对 AI 带来生产率提升的主观估计，往往会高于实际值。

[^7]: 具体加速能达到多大程度，很大程度上取决于起始代码本身还留有多少优化空间，因此这里的绝对倍数不应被直接解读为现实世界中的训练加速效果。更有信息量的是这种“同条件对比”所提供的比较：不同模型之间（过去一年从约 3 倍到约 52 倍）以及模型与熟练人类之间（在同样任务上，人类 4 到 8 小时做到约 4 倍）的差异。

[^8]: 为了检查裁判偏置，我们还在另一组 127 个时刻上做了同样测试；这些时刻里，人类当时的下一步本来就已经很强（与原始测试集“人类方向存在改进空间”不同）。在这组对照中，模型给出的建议只有大约 20% 的情况下被判定为更优。

点击关注我哦