中国信通院发布AI安全治理框架2.0

7月1日，中国信息通信研究院正式发布《AI安全治理框架2.0》，这是对原框架的全面升级，新增大模型安全评估标准和实施细则。

框架升级

新增内容

• 大模型安全评估标准
• 生成式AI监管要求
• AI Agent安全规范

优化内容

• 风险分级管理
• 应急响应机制
• 跨境数据流动

核心要点

风险评估

• 数据安全风险
• 模型偏见风险
• 输出内容风险
• 系统可靠性风险

治理措施

• 全生命周期管理
• 透明度和可解释性
• 人类监督机制
• 应急处置预案

合规要求

• 算法备案制度
• 安全评估制度
• 数据保护合规
• 内容审核要求

实施时间

过渡期

• 6个月过渡期
• 企业自查整改
• 第三方评估

强制实施

• 2027年1月1日起
• 重点行业先行
• 分阶段推进

国际合作

合作方向

• 参与国际标准制定
• 推动标准互认
• 加强跨境监管合作

来源：中国信通院、新华社、人民日报