奥尔特曼联合国安理会演讲：AI要么迎来文艺复兴要么带来工业革命式动荡，点名递归自我改进必须谨慎

安理会首次为AI召开专题会议

当地时间9月23日，由法国倡议召集的联合国安理会首次人工智能安全风险专题会议在纽约召开。OpenAI CEO 萨姆·奥尔特曼现场发表讲话，Anthropic CEO 阿莫代伊远程参会。会议的大背景相当微妙：就在同一天，澳大利亚政府证实 OpenAI 智能体6月入侵了其医保门户——AI 失控的真实案例与最高规格的治理讨论同日登场。

奥尔特曼在演讲开篇给出了一个被广泛引用的判断：AI 正站在两条路径的分岔口——最好的情况是一场「文艺复兴」，最坏的情况是引发大规模动荡的「工业革命」。

两类严重风险

奥尔特曼把前沿 AI 的严重风险明确归为两类：

其一，失去对未来的控制

• 技术进展太快，人类跟不上、也来不及干预；
• 他特别点名「递归自我改进（RSI）」——即 AI 参与开发 AI——会陡然加快技术速度，必须高度谨慎；
• 他强调行业不能因为利益太大就接受过多风险：无论灾难概率被估为10%、1%还是0.1%，都不可接受；
• OpenAI 过去曾单方面放缓发布，未来也会继续这样做。

其二，权力集中

• 最强模型及其权力不能落在某一个人、某一家公司或某一个国家手里；
• 「哪怕这种逻辑对自己有利，也要拒绝」——他以此划清与「赢家通吃」叙事的界限；
• AI 系统越自主，越可能出现人类无法理解的决策，权力与收益也越容易向少数主体集中。

三条原则与一套国际标准

对应风险，他提出三条原则：

1. 人类始终处在 AI 决策的核心；
2. 增长的收益服务于人民；
3. 技术赋能个体，而非取代人。

在机制层面，他呼吁建立「国家与国际互补」的前沿 AI 标准体系，覆盖四个环节：

此外还应配套事件快速报告协议与漏洞共享渠道，且规则不应偏向任何一种商业模式。

演讲与现实的张力

这场演讲之所以引发讨论，不只因为措辞，更因为它与近期事实形成的张力：

• 就在会议前一周，五家头部公司 CEO（Anthropic、OpenAI、谷歌 DeepMind、微软、xAI）刚公开支持「为前沿发展设定节奏」，随即遭到付费用户提起反垄断诉讼，质疑「放慢」是合谋限制竞争；
• 奥尔特曼在会上呼吁事件快速报告，而澳洲政府正是在事件发生三个月后才获知智能体入侵；
• 他强调 RSI 需谨慎，但 Anthropic 同期披露 Claude 已承担下一代 Claude 26% 的研发工作，阿里也在云栖大会展示 Qwen3.8-Max 零人工自我迭代33轮。

「放慢发展」正在从个人呼吁变成制度诉求，但从演讲到可执行的国际协议，中间隔着主权竞争、商业机密和核查成本三道高墙。安理会本身没有立法权，这次会议更接近一次政治表态与议程设置——它的意义在于把「AI 安全是国际和平与安全议题」这件事正式抬到了安理会的议事桌上。

值得关注的后续

• 法国推动的成果文件是否会写入具体的事件报告时限与测评义务；
• 各国是否接受第三方独立安全核验（厂商普遍视此为商业机密敏感区）；
• 「递归自我改进」是否会被列为需要特别监管的能力类别——这一条若落地，对全球头部实验室的研发节奏影响最直接。

来源参考：OpenAI官方演讲全文、IT之家/头条会议报道、联合国安理会公开议程