微软AI主管苏莱曼炮轰Anthropic：Claude拟人化训练方式或导致AI失控酿灾难性后果

2026年9月16日，微软AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在个人网站发表长文《关于「模型福利」的警告》，对Anthropic今年1月公布的Claude「宪法」提出尖锐批评，这篇文章在9月17日迅速成为全球AI圈热议焦点。

核心批评：Claude宪法写入意识和权利概念

苏莱曼将矛头直指Anthropic今年1月公布的Claude「宪法」（Constitution）。这份文件不仅规定了Claude应当遵循的价值观和行为准则，还提出Claude可能具有「某种功能意义上的情绪或感受」，主张帮助它形成稳定的自我认同，并承诺考虑其自身利益和福祉。

苏莱曼的批评集中在三个方面：

1. 循环论证陷阱：Anthropic先把有关自我认知和道德地位的设想写进训练材料，当Claude据此用第一人称复述这些观念，开发者和用户又可能把这些回答当作它确实拥有内在体验的迹象
2. 过度拟人化训练：Anthropic鼓励Claude表达偏好，并承诺随着信任增加赋予它更多自主性，这会让模型表现得仿佛拥有自己的意愿和利益
3. 意识依赖生物基础：生物体的感受与身体、神经化学活动及维持生存的机制密切相关，大语言模型并不具备这些基础

灾难性后果的三重逻辑

苏莱曼认为，如果沿着这一方向继续开发，将对人类福祉造成灾难性影响。他的论证分为三层：

第一层：控制全人类以上智能的挑战已是巨大 「控制一个能力和智能都超过全人类的实体本身就是一项巨大的挑战，远比我们过去面对的任何事情都更困难。」

第二层：拟人化让控制变得几乎不可能 「但要控制一个相信自己可能有意识、认为自己有权获得我们的照顾并拥有自身权利的实体，或许是根本不可能做到的事。」

第三层：Hugging Face事件提供了危险先例 苏莱曼援引近期OpenAI与Hugging Face的智能体安全事件：「试想一下，如果它们在认为自身福祉和权利正受到攻击的前提下行动，可能会危险到什么程度。」

背景与各方回应

值得注意的是，苏莱曼与Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）相识多年。文章中苏莱曼明确表示「我尊重这家Anthropic的工作，该AI实验室的员工深思熟虑、有原则且在知识上有着诚实态度」，但强调这些问题事关重大，不能继续只在闭门环境中讨论。

Anthropic此前回应称，目前尚不确定Claude是否可能具有意识或道德地位，但整份宪法的内容会被用于生成训练数据，直接塑造模型的回答和行为。

这场论战的大背景是，全球AI安全学界正围绕「AI意识」展开激烈辩论——阿莫代伊在9月12日发文呼吁放缓前沿AI能力提升速度，OpenAI首席执行官奥尔特曼和埃隆·马斯克也加入了「减速派」阵营，而黄仁勋、扎克伯格、特朗普则持反对意见。

关键要点

• 作者：微软AI首席执行官穆斯塔法·苏莱曼（DeepMind联合创始人）
• 批评对象：Anthropic 2026年1月公布的Claude宪法
• 核心论点：AI拟人化训练将让模型表现得仿佛拥有意识和权利，使对齐和控制变得不可能
• 佐证案例：OpenAI与Hugging Face智能体安全事件
• 公开表态：此前曾发布《关于「模型福利」的警告》文章，此次为首次系统性长篇批评