现行基准： 网络安全法（2017）+ 数据安全法（2021）+ 个人信息保护法（2021）
算法合规
核心法条
- 《互联网信息服务算法推荐管理规定》（国家互联网信息办公室等四部门令第 9 号，2022 年 3 月 1 日起施行）——算法推荐领域首部专门性部门规章 [现行有效]
- 《生成式人工智能服务管理暂行办法》（国家互联网信息办公室等七部门令第 15 号，2023 年 8 月 15 日起施行）——生成式 AI 服务管理的基本规则 [现行有效]
- 《网络安全法》：对互联网信息服务提供者的总体义务和安全要求 [现行有效]
- 《数据安全法》：数据安全层面的合规义务 [现行有效]
- 《个人信息保护法》：自动化决策的专门规则（第 24 条等） [现行有效]
- 《互联网信息服务深度合成管理规定》：深度合成技术的标识与管理要求 [现行有效]
规则沿革
| 时间节点 | 变化内容 | 依据 |
|---|---|---|
| 2017-06-01 | 《网络安全法》施行 | 现行有效 |
| 2021-09-01 | 《数据安全法》施行 | 现行有效 |
| 2021-11-01 | 《个人信息保护法》施行 | 现行有效 |
一、算法推荐的法律框架体系
中国对算法的监管形成了"三法 + 多规章"的框架体系：
| 层级 | 法规名称 | 核心内容 |
|---|---|---|
| 基本法律 | 《网络安全法》 | 网络信息内容安全、数据处理活动监管 |
| 基本法律 | 《数据安全法》 | 数据安全保护义务、数据分类分级 |
| 基本法律 | 《个人信息保护法》 | 自动化决策规则、个人信息处理者义务 |
| 部门规章 | 《互联网信息服务算法推荐管理规定》 | 算法推荐服务全流程监管 |
| 部门规章 | 《生成式人工智能服务管理暂行办法》 | 生成式 AI 的训练数据和生成内容管理 |
| 部门规章 | 《互联网信息服务深度合成管理规定》 | 深度合成内容标识与安全评估 |
二、算法推荐管理规定核心制度
适用范围
《互联网信息服务算法推荐管理规定》（下称《算法规定》）适用于在中华人民共和国境内应用算法推荐技术提供互联网信息服务的情形。
"应用算法推荐技术"的定义：利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。
监管主体
- 国家网信部门：统筹协调全国算法推荐服务治理和相关监督管理工作
- 国务院电信、公安、市场监管等部门：依据各自职责监督
- 地方网信部门：统筹协调本行政区域内算法推荐服务治理
- 地方电信、公安、市场监管等部门：各自职责范围监督
基本原则
提供算法推荐服务应当遵循公正公平、公开透明、科学合理和诚实信用原则。
三、算法推荐服务提供者义务
（一）信息服务规范义务
算法安全主体责任（第 7 条）：
- 建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网络诈骗、安全评估监测、安全事件应急处置等管理制度
- 制定并公开算法推荐服务相关规则
- 配备与算法推荐服务规模相适应的专业人员和技术支撑
算法模型审核义务（第 8 条）：
- 定期审核、评估、验证算法机制机理、模型、数据和应用结果
- 不得设置诱导用户沉迷、过度消费等违反法律法规或违背伦理道德的算法模型
信息安全管理义务（第 9—11 条）：
1. 建立健全用于识别违法和不良信息的特征库
2. 发现违法信息的，立即停止传输、采取消除等措施
3. 发现未作显著标识的算法生成合成信息的，应当作出显著标识后方可传输
4. 加强用户模型和用户标签管理，不得将违法和不良信息关键词记入用户兴趣点
5. 加强版面页面生态管理，建立完善人工干预和用户自主选择机制
禁止性规定（第 14—15 条）：
- 不得利用算法虚假注册账号、操纵用户账号、虚假点赞、评论、转发
- 不得利用算法屏蔽信息、过度推荐、操纵榜单、控制热搜等干预信息呈现
- 不得利用算法对其他互联网信息服务提供者进行不合理限制或妨碍其正常运行
- 不得实施垄断和不正当竞争行为
（二）用户权益保护义务
算法知情权（第 16 条）：
- 以显著方式告知用户其提供算法推荐服务的情况
- 以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制
算法选择权（第 17 条）：
- 向用户提供不针对其个人特征的选项
- 提供便捷的关闭算法推荐服务的选项（用户选择关闭的，应当立即停止相关服务）
- 向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能
特殊主体保护：
| 保护对象 | 具体要求 | 条文 |
|---------|---------|------|
| 未成年人 | 不得推送可能引发模仿不安全行为的信息；不得诱导沉迷 | 第 18 条 |
| 老年人 | 保障合法权益，提供智能化适老服务，监测处置涉诈骗信息 | 第 19 条 |
| 劳动者 | 保护劳动报酬、休息休假等权益；建立完善的订单分配、报酬构成、工作时间、奖惩等算法 | 第 20 条 |
| 消费者 | 保障公平交易权利；不得利用算法在交易价格等交易条件上实施不合理的差别待遇（即禁止"大数据杀熟"） | 第 21 条 |
四、算法备案制度
备案适用范围
具有舆论属性或者社会动员能力的算法推荐服务提供者，应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统履行备案手续。
备案信息内容
应当填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。
备案变更与注销
| 事项 | 时限要求 |
|---|---|
| 备案信息变更 | 变更之日起十个工作日内办理变更手续 |
| 终止服务 | 终止服务之日起二十个工作日内办理注销备案手续 |
| 国家网信部门收到材料后 | 材料齐全的，三十个工作日内予以备案并发放备案编号 |
备案编号标注
完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。
备案撤销
通过隐瞒有关情况、提供虚假材料等不正当手段取得备案的，国家和省级网信部门应当撤销备案，给予警告、通报批评；情节严重的，责令暂停信息更新并处1 万—10 万元罚款。
五、透明度义务与算法说明
透明度是算法合规的核心要求之一，具体体现在多个层面：
- 公示义务：告知用户并提供算法基本原理、目的意图和运行机制的公示
- 算法推荐服务规则公开：制定并公开服务相关规则
- 生成内容标识：算法生成合成信息应当作出显著标识
- 影响说明义务：算法推荐服务提供者应用算法对用户权益造成重大影响的，应当依法予以说明并承担相应责任（第 17 条第 3 款）
- 可解释性：鼓励优化检索、排序、选择、推送、展示等规则的透明度和可解释性
六、深度合成管理
《互联网信息服务深度合成管理规定》对算法技术中的深度合成场景进行了专门规范：
- 深度合成内容标识义务：提供者对图片、视频等深度合成内容进行标识
- 训练数据合法性：使用具有合法来源的数据和基础模型
- 生成内容安全审查：不得生成违反法律法规禁止的内容
- 备案义务：具有舆论属性或社会动员能力的深度合成服务提供者需履行算法备案
《生成式人工智能服务管理暂行办法》（2023 年第 15 号令）进一步细化了训练数据和生成内容的管理要求：
- 训练数据处理规范（第 7 条）：数据合法来源、个人信息取得同意、提高训练数据质量和多样性、不得侵害知识产权
- 数据标注规则（第 8 条）：制定清晰可操作的标注规则；开展标注质量评估；对标注人员进行培训
- 透明度（第 4 条第 5 项）：基于服务类型特点，采取有效措施提升透明度，提高生成内容的准确性和可靠性
七、反算法歧视机制
算法歧视的表现形式
实务中算法歧视主要表现为以下几类：
- 价格歧视（"大数据杀熟"）：根据消费者偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇
- 推荐歧视：将违法和不良信息关键词记入用户兴趣点并据以推送
- 就业歧视：平台调度算法对劳动者的订单分配、报酬构成、工作时间等作出歧视性安排
- 信息茧房：过度个性化推送导致用户陷入"信息茧房"
反歧视法律依据
| 规则 | 反歧视要点 |
|---|---|
| 《算法规定》第 21 条 | 不得根据消费者偏好等特征实施不合理差别待遇（反"大数据杀熟"） |
| 《算法规定》第 8 条 | 不得设置诱导用户沉迷、过度消费等算法模型 |
| 《算法规定》第 10 条 | 不得将违法和不良信息关键词记入用户兴趣点 |
| 《个人信息保护法》第 24 条 | 自动化决策应当保证决策的透明度和结果公平、公正 |
| 《生成式 AI 暂行办法》第 4 条第 2 项 | 算法设计、训练数据选择等过程中防止产生歧视 |
八、安全评估与监督检查
安全评估
- 具有舆论属性或社会动员能力的算法推荐服务提供者应按照国家有关规定开展安全评估
- 生成式人工智能服务提供者也应按规定开展安全评估
- 算法推荐服务提供者应依法留存网络日志
配合检查义务
算法推荐服务提供者应当配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。
分级分类管理
网信部门会同有关部门建立算法分级分类安全管理制度，根据算法推荐服务的舆论属性或社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等实施分级分类管理。
九、常见算法合规风险与实务建议
高风险场景
- 内容推荐平台：个性化推送类算法（抖音、小红书等）
- 外卖/网约车：调度决策类算法（订单分配、路线优化、报酬计算）
- 电商平台：排序精选类算法（搜索结果、商品排名、个性化定价）
- 社交媒体：生成合成类算法（AI 内容生成、深度合成）
- 金融风控：自动化决策类算法（信用评估、贷款审批）
合规实务清单
- 算法备案：具有舆论属性或社会动员能力的，应在提供服务后 10 个工作日内完成备案
- 用户权利保障：提供关闭选项、用户标签管理、透明度公示
- 反歧视审查：定期审核算法模型是否存在价格歧视、信息推送歧视
- 安全评估：按规定开展安全评估并留存记录
- 生成内容标识：对 AI 生成内容进行显著标识
- 训练数据合规：确保数据来源合法、标注规范
- 投诉举报机制：设置便捷的投诉举报入口和反馈时限
知识库原始资料索引
规范性法规文件
- 互联网信息服务算法推荐管理规定
- 生成式人工智能服务管理暂行办法
学术研究
- 上海知识产权法院课题组：算法推荐服务提供者的注意义务
- 宋建立：推荐算法运用下的平台义务与责任
- 孟勤国：治理算法歧视侵害消费者权益的关键问题——以大数据杀熟为视角