国家网信办发布生成式AI服务管理新规 明确安全评估要求

国家互联网信息办公室6月2日发布《生成式人工智能服务管理办法（修订草案征求意见稿）》，向社会公开征求意见。这是继2023年《生成式人工智能服务管理暂行办法》后的首次修订，进一步完善了生成式AI服务的监管框架。

核心要点

安全评估制度：

• 明确要求提供生成式AI服务应当进行安全评估
• 评估内容包括数据安全、算法安全、内容安全等方面
• 未完成评估的服务不得向公众提供

数据安全要求：

• 禁止使用非法获取的数据训练AI模型
• 强化个人信息保护，明确用户数据使用规则
• 要求提供数据删除和撤回功能

内容安全规范：

• 建立内容审核机制，防范生成违法有害信息
• 明确生成内容应当真实、准确，不得虚构事实
• 要求对生成内容进行标识，避免误导公众

监管范围扩展

修订草案将监管范围扩大到更多类型的生成式AI服务，包括但不限于：

• 文本生成服务（如聊天机器人、写作助手）
• 图像生成服务（如图文创作、设计工具）
• 音频视频生成服务
• 代码生成服务

合规时间要求

征求意见稿提出，现有生成式AI服务提供者应当在本办法施行之日起6个月内完成合规整改，包括安全评估、备案等工作。

行业影响分析

业内人士指出，此次修订标志着我国生成式AI监管进入常态化阶段。新规将推动行业优胜劣汰，促使企业加大在安全合规方面的投入，同时也为消费者提供更安全可靠的AI服务环境。

中国人工智能学会理事长表示，规范的监管环境有利于AI产业的长期健康发展，将促进技术创新与安全保障的平衡。

下一步工作

征求意见稿明确提出，国家网信部门将建立生成式AI服务安全评估专家库，组织开展评估工作，并加强对生成式AI服务的日常监管和抽查检查。

意见反馈截止日期为2026年7月2日。