现行基准： 生成式 AI 暂行办法（2023）+ 互联网信息服务深度合成管理规定（2023）+ 《人工智能生成合成内容标识办法》（2025）
人工智能生成内容（AIGC）合规
⚓ 锚点速览置信度 medium
是什么生成式AI服务备案、安全评估、内容标识（AI水印）与训练数据合法性
核心依据《生成式人工智能服务管理暂行办法》 等 4 条
权威分布优先源0 · 扩展A3 · 扩展B0 · ⚠待核0（共 3 源）
下钻见文末「知识库原始资料索引」，按分级标注取源
核心法条
- 《生成式人工智能服务管理暂行办法》（国家网信办等七部门令第 15 号，2023 年 8 月 15 日施行）——AIGC 领域最核心的部门规章 [现行有效]
- 第 2 条：适用范围——面向中国境内公众提供生成式 AI 服务
- 第 3 条：基本原则——坚持社会主义核心价值观，不得生成违法内容
- 第 4 条：七项具体要求——歧视防范、隐私保护、知识产权、数据保护等
- 第 7 条：训练数据合法性要求
- 第 12 条：内容安全义务——发现违法内容的处置
- 第 14 条：用户真实身份认证
- 第 17 条：服务提供者备案和安全评估义务
- 《互联网信息服务深度合成管理规定》（国家网信办等三部门令第 12 号，2023 年 1 月 10 日起施行）——深度合成（图像、视频、声音合成）的标识义务和管理 [现行有效]
- 《人工智能生成合成内容标识办法》（2025 年施行）——AIGC 内容的显式/隐式标识要求 [现行有效]
- 《网络安全法》第 12、47 条：网络信息内容安全总体要求 [现行有效]
规则沿革
| 时间节点 | 变化内容 | 依据 |
|---|---|---|
| 2023-01-10 | 《深度合成管理规定》施行，首次系统性规制 AIGC 相关技术 | 现行有效 |
| 2023-08-15 | 《生成式 AI 暂行办法》施行，构建 AIGC 服务全面监管框架 | 现行有效 |
| 2024 | 算法备案扩展至生成式 AI 模型 | 现行操作中 |
| 2025 | 《标识办法》施行，要求生成合成内容显著标识 | 现行有效 |
一、AIGC 监管框架概览
法规层级
| 层级 | 文件 | 核心内容 |
|---|---|---|
| 法律 | 《网络安全法》 | 网络信息内容安全的总体要求 |
| 法律 | 《数据安全法》 | 训练数据的安全保护义务 |
| 法律 | 《个人信息保护法》 | 个人信息处理和自动化决策规则 |
| 部门规章 | 《生成式 AI 暂行办法》 | 生成式 AI 服务全流程管理 |
| 部门规章 | 《深度合成管理规定》 | 深度合成技术的标识和安全管理 |
| 规范性文件 | 《标识办法》 | AIGC 内容的标识规范 |
适用范围判断
| 条件 | 是否需要遵守 |
|---|---|
| 面向中国境内公众提供服务 | 是 |
| 面向中国境内特定对象（如企业内部）提供服务 | 参照适用 |
| 仅境外提供服务但境内可访问 | 依据实际影响，可能适用 |
二、AIGC 内容安全义务
七项基本要求（《暂行办法》第 4 条）
- 坚持社会主义核心价值观，不得生成危害国家安全、颠覆国家政权、破坏国家统一和领土完整等内容
- 在算法设计、训练数据选择等过程中防止产生歧视
- 尊重知识产权和商业道德
- 尊重他人合法权益，不得侵害他人肖像权、名誉权、隐私权等
- 对生成的内容进行内容安全审核
- 建立内容投诉举报机制
- 提高生成内容的准确性和可靠性
内容安全审核机制
| 审核环节 | 具体要求 |
|---|---|
| 事前审核 | 对训练数据和基础模型进行安全评估 |
| 实时审核 | 对生成结果进行实时过滤和监控 |
| 事后处理 | 发现违法内容立即停止生成、采取删除等措施 |
| 模型优化 | 根据审核反馈持续优化模型 |
三、训练数据合规（与 AIGC 相关的部分）
训练数据合法性要求（《暂行办法》第 7 条）
- 合法来源——训练数据应具有合法来源
- 个人信息合规——涉及个人信息的，应当取得个人同意或符合其他合法性条件
- 知识产权保护——不得侵害他人依法享有的知识产权
- 数据标注规范——制定可操作的标注规则，开展标注质量评估
数据标注合规要点
| 要素 | 合规标准 |
|---|---|
| 标注规则 | 清晰、可操作、可验证 |
| 标注人员管理 | 培训、考核、监督 |
| 质量评估 | 定期开展标注质量审核和评估 |
| 标注记录保存 | 保存标注过程记录，便于后续审查 |
四、AIGC 内容标识义务
标识的法律依据
| 规定 | 标识要求 |
|---|---|
| 《深度合成管理规定》第 14、16 条 | 深度合成服务提供者应对生成内容进行显著标识 |
| 《暂行办法》第 12 条 | 按照《互联网信息服务深度合成管理规定》进行内容标识 |
| 《标识办法》（2025） | 显式标识（可见水印）+ 隐式标识（元数据水印）双重要求 |
标识的具体内容
标识应包含以下信息：
- 明确告知该内容为人工智能生成
- 标注生成模型的来源信息（如适用）
- 保留隐式标识信息（数字水印等）供溯源使用
五、AIGC 的备案与监管
算法备案义务
| 义务 | 要求 |
|---|---|
| 安全评估 | 具有舆论属性或者社会动员能力的生成式 AI 服务，上线前应开展安全评估 |
| 算法备案 | 安全评估完成后，通过互联网信息服务算法备案系统履行备案手续 |
| 备案信息 | 服务提供者名称、服务形式、算法类型、训练数据来源等 |
服务终止义务
| 情形 | 处置措施 |
|---|---|
| 发现违法内容 | 立即停止生成、采取消除措施 |
| 模型存在重大缺陷 | 暂停或终止服务、进行优化调整 |
| 未履行备案义务 | 监管部门可责令暂停服务 |
六、AIGC 相关侵权责任
民事侵权
| 侵权类型 | 法律依据 | 责任承担 |
|---|---|---|
| 肖像权/名誉权侵害 | 《民法典》人格权编 | 停止侵害、赔礼道歉、赔偿损失 |
| 知识产权侵权 | 《著作权法》《反不正当竞争法》 | 停止侵权、赔偿损失 |
| 隐私权侵害 | 《民法典》《个人信息保护法》 | 停止侵害、赔偿损失 |
| 个人信息处理违法 | 《个人信息保护法》 | 行政处罚 + 民事赔偿 |
行政责任
| 法律依据 | 处罚标准 |
|---|---|
| 《暂行办法》第 20 条 | 责令整改、警告、通报批评 |
| 《暂行办法》第 21 条 | 暂停或终止服务 |
| 《网络安全法》第 68 条 | 情节严重的，处 50—500 万元罚款 |
七、企业合规实务清单
- 训练数据审查——确保数据来源合法、个人信息取得同意、不侵害知识产权
- 内容安全过滤——建立事前/事中/后的全流程审核机制
- 生成内容标识——对 AIGC 内容进行显式+隐式双重标识
- 算法备案——完成安全评估和算法备案
- 用户身份验证——实施实名制管理
- 投诉处理机制——设置专门的渠道处理用户投诉
- 知识产权保护——建立生成内容的知识产权审核机制
- 数据标注规范——制定标注规则，开展质量评估
来源权威分布
本概念文章引用的原始资料按知识库权威分级分布如下。阅读时优先采信优先源，对 ⚠效力待核实 来源需交叉验证。
| 效力层级 | 数量 | 来源 |
|---|---|---|
| 扩展A级 | 3 | 中国应用法学×2、法律适用×1 |
知识库原始资料索引
法律法规
[扩展A级]生成式人工智能服务管理暂行办法
学术研究
[扩展A级]法院学术讨论会：司法实践中AIGC性质认定的标准构建[扩展A级]邱遥堃：文生视频大模型Sora将如何影响智慧法院建设升级迭代