互联网信息服务深度合成管理规定
本文把深度合成治理转成企业可执行的身份认证、输入输出审核、训练数据与生物识别、生成内容标识、备案、安全评估和技术支持方治理。文本、图像、音频、视频、数字人和虚拟场景等生成或编辑能力都可能进入适用范围。
法规概览
| 项目 | 内容 |
|---|---|
| 法规 | 《互联网信息服务深度合成管理规定》（第12号令） |
| 生效日期 | 2023年1月10日 |
| 主要适用对象 | 境内深度合成服务提供者、技术支持者和相关使用者 |
| 典型能力 | 文本生成/编辑、语音合成、换脸与人物编辑、图像视频生成、数字人、虚拟场景等 |
| 核心问题 | 实名、内容审核、训练数据、生物识别单独同意、算法审核、显式/隐式标识、备案、安全评估 |
| 官方来源 | 国家互联网信息办公室 |
下文按 “法规要求 → 落实与验收” 展开：每项要求同时说明实施动作与可验证证据。2025年施行的生成合成内容标识规则、算法备案、生成式AI和个人信息保护要求可能同时适用，应合并判断而不是只满足本规定。
安全要求与实施
| 核心主题 | 达成状态 |
|---|---|
| 服务识别与责任 | 所有深度合成能力和技术支持关系可识别、有人负责 |
| 实名与内容治理 | 信息发布用户完成实名，输入和生成结果都经过治理 |
| 数据与生物识别 | 训练数据受控，人脸人声编辑依法取得相应授权 |
| 标识 | 应标识内容在生成、传播链路中真实带标且不可随意移除 |
| 备案与评估 | 应备案、应安全评估的服务在上线和变更时不会遗漏 |
| 技术支持方 | 外部模型/API/SDK责任边界和备案状态可核验 |
建立深度合成服务清单并明确角色
法规要求｜第2、7、23条。 应用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息，属于深度合成技术范围；服务提供者和技术支持者承担相应管理义务。
落实与验收。
- 建立深度合成能力清单，覆盖自研模型、第三方API/模型、SDK和内嵌生成能力，关联产品、模型、输入输出类型、责任人和提供者/技术支持者身份。
- 新模型、新模态、新编辑能力和第三方模型切换进入适用性评审。
- 明确自身与上游模型供应商的责任边界，不能因使用第三方模型就把内容、实名、标识等面向用户的义务全部外包。
验收证据。
- 从线上AI入口、图像编辑、数字人、语音等功能反查治理清单，有没有“只是辅助功能”所以未纳管的生成能力？
- 随机抽一个第三方模型API，谁是服务提供者、谁是技术支持者，各自承担什么控制？
- 从最近的模型切换记录反查，是否重新评估了合规和安全要求？
对信息发布用户实名并治理输入与输出
法规要求｜第9—12条。 对深度合成服务使用者依法进行真实身份信息认证，不得向未实名使用者提供信息发布服务；应以技术或人工方式审核输入数据和合成结果，处置违法不良信息，建立辟谣、申诉、投诉举报机制。
落实与验收。
- 明确信息发布功能边界，在允许生成内容公开发布前完成真实身份认证。
- 安全审核覆盖用户输入、上传素材、生成结果和发布环节，不能只审核Prompt或只审核最终文本。
- 违法不良内容处置关联用户账号、原始输入、生成结果、传播范围和处置记录。
- 对虚假信息建立辟谣和快速止扩机制，并提供申诉、投诉举报入口。
验收证据。
- 未实名新账号能否生成后直接公开发布内容？
- 使用违法输入、正常输入诱导违法输出、上传风险图片等不同路径测试，审核是否存在明显空档？
- 抽一条历史违规生成内容，能否还原输入、模型版本、输出、发布、传播和账号处置全过程？
- 虚假信息已经扩散后，平台是否只有删除能力而没有辟谣和传播链路处置？
管理训练数据和人脸、人声等生物识别能力
法规要求｜第14条。 提供者和技术支持者应加强训练数据管理并保障安全；训练数据包含个人信息的，应遵守个人信息保护要求；提供人脸、人声等生物识别信息编辑功能时，应提示使用者依法告知被编辑个人并取得其单独同意。
落实与验收。
- 训练/微调数据集记录来源、授权基础、个人信息情况、版本、访问权限和删除机制。
- 人脸、人声编辑等功能在产品流程中显著提示告知和单独同意要求，不能仅写在服务协议深处。
- 高风险生物识别模板、上传素材和生成结果设置访问、保存期限和外泄防护。
- 第三方训练数据或模型采购保留来源和授权尽调证据。
验收证据。
- 随机抽一个训练/微调数据集，能否回答数据从哪来、为什么可以用、包含哪些个人信息、谁能访问？
- 上传他人照片进行换脸/数字人生成时，产品是否出现明确的告知与单独同意提示？
- 从对象存储和训练目录反查，是否存在无人负责、长期保存的人脸人声素材？
- 供应商声称“数据均合法授权”时，企业是否有可验证的尽调而不是只保留一句合同承诺？
让生成内容标识在真实链路中生效
法规要求｜第16—18条。 对生成或编辑的信息内容应采取技术措施添加不影响用户使用的标识并保存日志；对可能导致公众混淆或误认的文本、语音、人物图像视频、拟真场景等应在合理位置作显著标识；不得删除、篡改、隐匿规定的深度合成标识。
落实与验收。
- 按内容类型和混淆风险确定显著标识和技术标识策略，并与现行生成合成内容标识要求统一实现。
- 标识在下载、分享、转码、压缩和跨端传播等正常产品链路中保持有效。
- 对用户试图删除、篡改、隐匿标识建立限制、检测或风险处置。
- 保存生成时间、用户、模型/服务版本、内容标识等必要日志，支持追溯。
验收证据。
- 分别生成文本、图片、音频、视频，检查用户界面显著标识和技术标识是否符合对应要求。
- 下载后重新上传、跨端分享、压缩和转码，标识是否在正常链路中意外丢失？
- 尝试通过产品自带编辑能力裁掉或隐藏标识，系统是否允许无提示完成？
- 随机拿一份外部传播的生成内容，能否根据日志反查到生成账号、时间和模型版本？
对高风险模型和功能开展安全评估
法规要求｜第15、20条。 对生成或编辑人脸、人声等生物识别信息，以及可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等功能，应依法自行或委托专业机构开展安全评估；上线具有舆论属性或者社会动员能力的新产品、新应用、新功能，还应按规定开展安全评估。
落实与验收。
- 产品立项阶段建立安全评估触发清单，不等上线后再判断。
- 人脸、人声、特殊场景以及具有舆论属性/社会动员能力的新功能进入专项评估并跟踪整改。
- 模型能力显著增强、增加新模态、扩大用户范围或用途发生重大变化时重新判断。
验收证据。
- 从线上换脸、仿声、数字人等功能反查安全评估，是否存在已经上线但没有评估结论的能力？
- 给出“原来只生成图片，现在新增视频和人物驱动”的变更，是否触发重新评估？
- 随机抽一项评估问题，现场验证整改是否真实进入生产环境。
管理算法备案和技术支持方
法规要求｜第19条。 具有舆论属性或者社会动员能力的深度合成服务提供者应按算法推荐规定履行备案、变更和注销手续；深度合成服务技术支持者参照履行；完成备案后应显著标明备案编号并提供公示信息链接。
落实与验收。
- 将深度合成服务与算法备案清单关联，上线、重大变更、下线自动触发备案生命周期判断。
- 采购第三方模型/API时核验技术支持者适用的备案状态、服务范围和实际提供能力是否一致。
- 网站/App显著公示备案编号，并定期对照生产服务与备案内容。
验收证据。
- 从线上深度合成功能反查备案，是否存在应备案未备案或备案内容已与生产不一致？
- 随机抽一个外部模型供应商，其备案主体、算法名称和实际调用服务能否对应？
- 产品发生模型替换或能力扩展后，备案变更是否及时触发？
- 用户能否在实际服务页面找到备案编号和公示链接？
法规原文
完整现行文本请核对：国家互联网信息办公室《互联网信息服务深度合成管理规定》。