深度合成合规
最后更新：2026-04-07 | 由 LLM 基于《深度合成管理规定》《生成式AI暂行办法》等资料编译
关联概念：算法备案制度 | 人脸识别数据保护 | 大模型训练数据合规 | 数据安全与人工智能 | 个人信息保护
核心法条
- 《互联网信息服务深度合成管理规定》（国家网信办、工信部、公安部联合发布，2022年11月25日发布，2023年1月10日施行）（现行有效，以下简称《深度合成规定》）
- 第2条：深度合成的定义与适用范围
- 第9条：使用具有合法来源的数据和基础模型
- 第14条：显著标识义务
- 第17条：备案义务
- 第19条：信息安全管理制度
- 第21条：辟谣与应急处置义务
- 《生成式人工智能服务管理暂行办法》（七部门联合发布，2023年7月13日发布，2023年8月15日施行）（现行有效）
- 《民法典》第1019条：任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。（现行有效）
- 《网络安全法》第12条、第47条：网络信息安全与应急处置义务。（现行有效）
规则沿革
| 时间节点 |
旧规则 |
新规则 |
依据来源 |
| 2019 |
无专门针对深度合成的监管规定 |
— |
— |
| 2023-01-10 |
— |
《深度合成规定》出台，首次针对人脸识别替换、声音克隆、图像合成等行为设立专门监管规则 |
国家网信办、工信部、公安部令第X号 |
| 2023-08-15 |
— |
《生成式AI暂行办法》进一步将生成式AI（包括基于深度合成的AIGC）纳入监管框架 |
七部门联合发布 |
一、深度合成的基本概念
1.1 定义
深度合成，是指利用基于深度学习的算法模型，生成或编辑文本、图像、音频、视频等网络信息内容的技术总称。
1.2 典型应用场景
| 应用领域 |
技术类型 |
法律风险 |
| 人脸替换（Deepfake） |
人脸检测+融合生成 |
肖像权、名誉权侵权，身份冒用 |
| 声音克隆 |
语音合成模型训练 |
声音权益侵权，诈骗风险 |
| 图像/视频生成 |
GAN/扩散模型 |
虚假信息传播，肖像权侵权 |
| 文本生成 |
大语言模型 |
虚假信息、版权争议 |
| 虚拟人/数字人 |
多模态生成 |
人格权、知识产权交叉问题 |
1.3 制度定位
- 技术中立+行为合规：技术本身不禁止，但使用行为须合规
- 全链条管理：服务提供者（面向公众）+技术支持者（提供底层技术）+使用者（最终用户）三方责任
- 标识+备案+安全评估三位一体监管体系
二、深度合成服务提供者的合规义务
2.1 数据合规义务
| 义务 |
具体要求 |
法律依据 |
| 数据来源合法 |
使用的训练数据和模型须具有合法来源 |
《深度合成规定》第9条 |
| 个人信息处理合规 |
涉及个人生物识别信息（人脸、声纹等）须取得个人单独同意 |
《个人信息保护法》第28、29条 |
| 数据安全保障 |
建立数据分类管理、加密存储、访问控制等制度 |
《数据安全法》第27条 |
2.2 标识义务（第14条）
- 显著标识：深度合成内容必须以合理方式进行显著标识（如"AI生成""AI合成"标签）
- 防止混淆：不得以删除、修改标识的方式误导公众
- 技术标识：应在元数据中添加合成标识信息
2.3 备案义务（第17条）
- 深度合成服务提供者和技术支持者应当履行算法备案手续
- 详见算法备案制度概念文章
2.4 安全管理制度（第19条）
| 制度要求 |
内容 |
| 用户实名认证 |
对注册用户进行真实身份认证 |
| 算法机制机理审核 |
定期审查算法的公平性、安全性 |
| 安全评估报告 |
上线前完成安全风险评估 |
| 投诉举报受理 |
建立用户投诉处理机制 |
| 应急处置 |
发现违法信息/谣言时的删除、屏蔽、断网等措施 |
2.5 辟谣义务（第21条）
- 发现利用深度合成技术制作、传播虚假信息的
- 应当及时采取删除、屏蔽、断开链接等措施
- 并向有关主管部门报告
三、法律风险与责任
3.1 民事侵权风险
| 侵权类型 |
典型场景 |
法律依据 |
| 肖像权侵权 |
未经同意使用他人人脸进行深度更换 |
《民法典》第1019条 |
| 名誉权侵权 |
利用AI生成虚假视频或照片贬损他人名誉 |
《民法典》第1024条 |
| 声音侵权 |
未经同意克隆他人声音用于商业目的 |
《民法典》第1023条（声音权利参照肖像权保护） |
| 著作权侵权 |
使用受版权保护的素材训练模型 |
《著作权法》相关规定 |
3.2 行政责任
| 违法情形 |
处罚措施 |
法律依据 |
| 未履行备案义务 |
责令改正+警告 |
《深度合成规定》第24条 |
| 未进行显著标识 |
责令改正+警告+罚款 |
《深度合成规定》第24条 |
| 传播虚假信息 |
责令改正+暂停服务+罚款 |
《深度合成规定》第25条 |
| 未履行安全管理义务 |
责令改正+暂停服务+罚款 |
《深度合成规定》第26条 |
3.3 刑事责任
- 利用深度合成技术实施诈骗、敲诈勒索等犯罪的，依法追究刑事责任
- 制作、传播淫秽物品的，按《刑法》第363、364条处理
- 利用深度合成窃取商业秘密的，可能构成侵犯商业秘密罪
四、与其他数据合规制度的衔接
4.1 深度合成 vs 个人信息保护
- 使用人脸、声纹等个人生物识别信息进行训练：必须取得单独同意（《个人信息保护法》第28、29条）
- 个人信息已删除后仍可被深度合成技术恢复识别：须承担额外安全保障义务
4.2 深度合成 vs 生成式AI合规
| 维度 |
深度合成 |
生成式AI |
| 监管重点 |
内容真实性、身份识别 |
内容安全、数据合法 |
| 标识要求 |
显著标识"AI合成" |
标注生成内容 |
| 数据要求 |
合法来源训练数据 |
合法来源数据+基础模型 |
| 备案要求 |
算法备案 |
安全评估+算法备案 |
五、实务要点与合规建议
5.1 对深度合成服务提供者的合规建议
- 上线前完成算法备案和安全风险评估
- 对所有合成内容进行显著标识
- 建立内容审核机制，防止虚假/有害内容传播
- 训练数据来源合法性审查（尤其人脸、声纹等个人生物信息）
- 制定用户协议和投诉处理流程
5.2 对使用者的合规指引
- 未经他人同意不得制作涉及他人的深度合成内容
- 不得用于虚假宣传、欺诈、名誉侵害等用途
- 合成内容用于公开发布时须保留原始标识
5.3 对公众的维权路径
- 发现未经同意的人脸/声音被使用时，要求删除并申请赔偿
- 发现深度合成的虚假信息传播时，通过平台举报功能投诉
- 遭受严重损害时可通过民事诉讼主张人格权损害赔偿
知识库原始资料索引
法条资源
- 《互联网信息服务深度合成管理规定》（2023年1月10日施行）
- 《生成式人工智能服务管理暂行办法》（2023年8月15日施行）
- 《民法典》第1019、1023、1024条
- 《个人信息保护法》第28、29条
相关文章