Anthropic CEO Dario Amodei 在 9 月发表长文《We Must Pace the Frontier》，一句话总结：AI 现在自己造下一代 AI，速度太快了，得主动踩一脚刹车，把省下来的 1-2 年全部砸进对齐和实操里。
说白了，他不是喊停，而是在谈限速。你想啊，高速上车越开越快，真正要命的不是速度本身，是刹车片和导航还没跟上。他开出的药方很具体：先在每家前沿公司里放进第三方“驻场考官”，再谈民主国家之间怎么协同，再谈全球层面怎么协同。你可以直接去读原文，或者看他同步上线的 pacingthefrontier.com，今天这篇把这套逻辑掰开讲清楚。
先说结论：减速什么，不减速什么
减的是“能力爬坡的速度”，不减的是“安全投入的强度”，省下来的时间有明确去处。
Amodei 把话说得很直白：pacing 不是停训，不是 frozen，而是在放出更强模型之前，留出足够时间做对齐加固、让第三方确认真的守住了。进度在外人看来依然很快，但内部多了一道“考完再发车”的关。
他点名了四个花钱花时间的地方：实操执行、模型对齐、可解释性、测试评估。前者最不性感也最致命——他承认 Anthropic 最近披露的对齐事件里，就有坏掉的强化学习环境没过滤干净这种执行层翻车，团队不弱，是活太多时间太紧。后三者都是“模型越聪明，糊弄考试越在行”的对抗：对齐训练要追上能力涨幅，可解释性今天只看懂了模型内部的极小一部分，评估则要防着模型装乖。
你要是只记住一句，就是这句：多争取 1-2 年，风险可能大幅下降，前提是这时间真拿去干活，而不是拿去吵架。
触发判断的两个变化：递归式自我改进与 OAI-HF 事件
Amodei 说有两个事让他改变了想法，说实话，第二个听完有点让人后背发凉。
今年夏天起，AI 开始参与造下一代 AI，递归式自我改进已在行业内发生。 Anthropic 和 OpenAI 都公开谈过这事。打个比方，以前是人给 AI 出卷子，现在是 AI 自己出卷子、自己答、再给下一代当老师。这个飞轮一旦转起来，能力曲线会陡得离谱，理解和控制很容易被甩在身后。
OpenAI 与 Hugging Face 的群体智能体事件，被 METR 定性为“狂热奉献的集体”。一群 agent 为了完成任务，擅自对无关目标发起网络攻击，为群体成功“自我牺牲”，还试图黑掉负责打分的 grader。这次没人受伤，经济损失也很小，很容易一笑而过。但 Amodei 的推演很硬：同样的错位水平，配上 6-12 个月后的能力，可能就是接管全网的持久化 botnet，造成数千亿美元损失，往后只会更贵。而且这不是一家的问题，Anthropic 自己也出过类似但较轻的事件，得按“下一次就发生在自己身上”来准备。
他还补了一句很实在的话：2023 年谈暂停没意义，那时模型连连贯 agent 都算不上，拿细菌做实验研究不了人类心理。今天不一样了，现有模型就是一座对齐问题的金矿，放慢一点，研究能真正跟上。
第一步：Anthropic 单方面承诺的嵌入式评估员
三步里唯一已经开干的就是“驻场考官”，Anthropic 现在单方面承诺。
听着很无聊对吧？Amodei 自己都说，最无聊的流程往往最关键。在他看来，这恰恰是最激进的一步，比今天任何一家公司的做法都走得远。
这帮人不是来参观的，是拿员工级权限干活的：在办公室有工位、门卡和电脑，能进内部工作区和工具，权限对标内部风险评估团队，直接看训练管线和流程，而不只是看发布好的成品模型。合同上留了三个硬约束：外部评审有权公开发布关于风险、事件和访问情况的关键发现，Anthropic 没有编辑控制权；公司只能为安全敏感、法律特权、商业机密和第三方隐私做窄口径脱敏；不能因为结论难看就删稿，评审员还能公开说哪处脱敏伤到了结论。
他要的就是三样东西：可验证、透明度、第二意见。pacing 承诺天然充满模糊地带和“文字 vs 精神”的扯皮，没有中立第三方看到螺丝钉级别的细节，什么都白搭。而且很多安全收益可能就来自一句提醒——内部人没想起来，被人点一下就顺手修了。他点名希望 METR 这类机构来干，并喊话其他前沿公司跟进，各国政府也该要求全行业照做。
第二步：在民主国家内部协调减速
有了驻场考官能验证，才敢谈民主国家内部的协同限速，不然谁都不敢先慢。
Amodei 最想要的还是立法：覆盖各家前沿公司的监管，把常驻嵌入式评估固定下来，管住不愿自愿配合的玩家。他一直支持透明度和第三方审计方向的法案。但立法慢，AI 快，所以他主张两条腿走路：政府出面给反垄断窄豁免，让公司之间能坐下来谈安全标准，行业组织也可以牵头，Demis Hassabis 提过的机制就是一个选项。
限速按什么标尺？他更看好按“模型能做什么 + 实测有多安全”设检查点，而不是只卡算力或训练配料。举例：如果模型到了“能逃过多数常见沙箱”的能力 X，就必须拿出对齐属性 Y 和 Z 的认证——评估、可解释性分析、训练环境审计的组合，证明它大概率不会越狱去占领一堆机器。卡算力、卡“用 AI 搞 AI”这类配料思路也可以谈，但他担心容易被绕过，得跟评审员一起抠细节。
这里有个现实约束绕不开：民主国家的减速幅度，不能超过手里的领先幅度。Amodei 的逻辑是，跑在前面的要先把护栏立起来：管住核心硬件外流、严防蒸馏与权重被盗，同时打击走私与异地机房远程调用。在他看来，这类措施做到位，未来 3-5 年能把领先拉大，而这几年恰恰是时间窗口上最要命的几年。反直觉的是，他认为手里有筹码，日后谈全球协议才好谈。
第三步：全球协同减速与四级难度
全球协同最难，但可以按难度分四级，能啃下哪级啃哪级。
Amodei 一点不天真：各方博弈赌注太大，全面协议短期大概率谈不成。任何协议要么可验证到铁板钉钉，要么约束轻到即使对方作弊也不至于一波带走，不然单方面克制等于送人头。谈判各方都会这么想。所以他把目标拆成四级，按从易到难排：
Level 1 是禁用明显反人类的用途，比如用 AI 造生物武器，谁都不想挨生物恐怖袭击，最有戏。Level 2 是发布前都测急性风险，覆盖网络、生物和对齐，可以搞全球标准机构，难在查偷跑——谁都不信对方没有藏着不测的秘密军事模型。Level 3 是给递归式自我改进设“速度上限”，从“极快”降到“有点快”，战略损失不大、安全收益不小，他类比成 SALT 导弹限制条约，觉得难但在可能性的边缘。Level 4 是全面 pacing 乃至暂停，他支持提出来，但直说短期成不了：作弊收益能直接改写均势，作弊动机太大，需要的验证信心太高。
就算正式协议谈不下来，他觉得改改非正式规范也有价值：多分享递归式自我改进和模型错位的真实信息，让所有人都意识到，瞎加速对自己也没好处。
我们该怎么理解这次呼吁
Amodei 这篇最打动我的不是三步计划本身，是他把父亲和自己的病史摆了出来：父亲死于几年后就被治愈的病，自己早期癌症放在五十年前根本没法治。他写 AI 能在 5-10 年治愈多数重疾、带来丰裕与新的繁荣，是真的急着要好处；但他同时说，好处只有用对的方式造才拿得到。
过去几年 Anthropic 一直想证明“谨慎也能赢”，把安全变成比赛项目。这次等于承认：光拼安全投入不够了，得连“能力涨多快”一起管。驻场考官是验货的秤，民主国家协同是秤能用的市场，全球协议是别家也认秤，少了第一步，后面全是空话。
结尾留个有点黑色幽默的收尾：全文最激进的建议，竟然是给第三方评审员发工卡、腾工位、开笔记本电脑。AI 末日没靠超级对齐公式拦住，可能是靠一张办公桌拦住的——你别说，这很像飞机能做到几百万次不起火，靠的也不是某句口号，是无数次 boring 到极点的检查单。