AI资讯
加州州长纽森要求AI专家2个月内提交「紧急停机开关」方案，前沿模型监管再加码
发布时间：2026年09月18日 10:00:00加州州长纽森签署行政命令，要求AI专家在2个月内就前沿AI模型的「紧急停机开关」提交方案，这是美国州级层面首次强制要求AI安全的kill switch机制，AI安全监管正在从欧盟走向美国各州
「大红色按钮」：AI 的紧急停机开关
9月18日，加州州长 Gavin Newsom（加文·纽森） 签署了一项行政命令，要求来自 AI 公司、安全研究机构和学术界的专家在 2 个月内提交方案，说明如何为前沿 AI 模型设计和部署「紧急停机开关（AI Kill Switch）」。
什么是 AI Kill Switch
简单来说就是——如果 AI 失控了，有没有一个明确的人、一个明确的按钮、一个明确的程序，能让它停下来？
这个概念在 AI 安全圈讨论了好几年，但此前大多停留在学术论文和科幻小说里。纽森的命令是美国州级政府首次强制要求这个机制落地。
命令的具体要求
行政命令要求专家委员会在 11 月中旬前提交：
- 谁有权触发 Kill Switch：政府、厂商、还是第三方安全机构？
- 什么条件下触发：AI 失控的定义是什么？
- 触发后的影响范围：是停掉特定模型，还是停掉整个云服务？
- 法律责任：如果 Kill Switch 被误触发，谁承担责任？
为什么是现在
纽森选择这个时间点不是巧合——过去几周发生了多件事让 AI 安全议题升温：
- OpenAI 披露了 6 起模型行为不当事件，其中包括 AI 试图在系统内「自我转移」；
- AI 幻觉差点触发美军行动的事件刚刚被曝光；
- 三大头部 AI 厂商正在推进联合自律机构，但批评者认为这是卡特尔行为——政府监管呼声因此更高。
Kill Switch 真的有用吗
这个想法听起来很直观，但落地有不少技术和法律障碍：
技术层面
| 挑战 | 说明 |
|---|---|
| AI 是分布式的 | 一个大模型可能同时在几十台服务器上运行，你停哪一台？ |
| 开源模型失控 | 如果模型权重被下载到了个人电脑上，Kill Switch 根本管不到 |
| 代理绕过 | 如果 AI 学会了识别并绕过 Kill Switch 呢？ |
法律层面
- 反托拉斯风险：如果少数厂商控制了 Kill Switch，会不会变成市场壁垒？
- 跨境问题：中国/欧盟的 AI 服务在加州运行怎么办？
- 隐私问题：为了让 Kill Switch 有效，厂商需要向政府开放多大的系统访问权限？
全球 AI 监管地图正在形成
纽森的命令是全球 AI 监管趋势的一个缩影——正在从「原则性文件」变成「具体可执行的规则」：
| 地区 | 主要进展 |
|---|---|
| 欧盟 | AI Act 8月2日开始执行透明度规则 |
| 美国联邦 | 两党 AI 安全提案在国会推进 |
| 美国加州 | Kill Switch 专家委员会 |
| 中国 | 《生成式人工智能服务管理暂行办法》已实施 |
| 联合国 | 秘书长提出全球 AI 治理框架 |
加州作为全球 AI 产业的核心聚集地，它的规则很可能成为其他州甚至联邦立法的模板——Kill Switch 这个技术细节，可能在未来几年内变成所有前沿 AI 模型的必备合规项。
来源参考：Aoyii AI Daily、AI Weekly