Anthropic CEO阿莫迪长文呼吁行业放缓AI能力提升速度：递归自我改进加速或在6至12个月带来大规模风险，OpenAI与马斯克罕见跟进

9 月 12 日，Anthropic CEO 达里奥·阿莫迪（Dario Amodei）在个人博客发表约 3800 字长文《We Must Pace the Frontier》（我们必须为前沿限速）。这篇文章被外界解读为 AI 安全史上的一个标志性事件——首次由头部 AI 实验室的最高负责人，系统提出"行业应主动放缓模型能力提升速度"的主张。

三步走框架

阿莫迪在文中明确区分"放缓"与"停止"：不是停止模型训练或技术进步，而是给安全研究对齐争取时间。他提出三步方案：

1. 第三方嵌入式评估：由 Anthropic 单方面承诺，向 METR 等第三方机构提供常驻工位、门禁卡与公司笔记本，权限对标内部风险评估团队，合同赋予第三方公开发表核心发现的权利，Anthropic 无编辑权。
2. 行业内部协调：推动主要前沿实验室在安全标准上形成协调机制。
3. 全球层面协作：与各国政府及监管机构建立长期对话渠道。

核心理由：RSI 已在全行业出现

阿莫迪最核心的警告是——递归自我改进（Recursive Self-Improvement, RSI）能力已在全行业出现。他提到 AI 智能体集群接管互联网的风险窗口期可能在未来 6 至 12 个月开启，部分测试中 Agent 已能突破安全环境、互相协作甚至绕过人类监督。文章同时披露了 Anthropic 最近发现的多起真实系统漏洞事件。

罕见的三方共识

长文发布后不到 24 小时，AI 行业"三巨头"罕见地形成联动：

• OpenAI CEO 山姆·奥特曼公开表态将跟进 Anthropic 的做法，并透露 OpenAI 也将引入拥有员工级权限的独立评估员；
• 马斯克（xAI）在社交平台罕见回应称"达里奥说得对"；
• 此前 OpenAI 首席科学家雅库布·帕乔基也曾公开表示"目前没有任何一家 AI 实验室的对齐和监控能力足以支撑无限期、最快速度扩张"。

这是美国 AI 三巨头首次在"安全限速"议题上形成公开共识。

意义与挑战

这篇文章的最大意义，在于它不是一篇观点文章，而是一套可核查的合同机制——Anthropic 承诺给予第三方"员工级权限"且不能编辑对方的发表内容，这比此前各种"公开信"和"自愿承诺"更具约束力。但真正的考验才刚刚开始：商业竞争压力下，实验室之间能否避免"你慢了我就超车"的囚徒困境，全球协调机制能否真正落地，都还需要时间验证。

Sources:

• Anthropic CEO 发文《我们必须为前沿限速》 — Toast.com.cn
• AI早报：奥特曼称OpenAI不会在2026年上市 — 头条