合规视角下的算法备案全攻略

国家网信办主导并成功推进了互联网算法服务备案制度。该制度的实施旨在提升算法服务的透明度，推动算法技术的合规并健康发展，并切实的保护用户权益。截止至2024年10月9日，已累计公布了8批次的信息服务算法备案信息和7批次的深度合成算法备案信息。今年以来，备案信息的公布频率已稳定在每两个月一次。

 

对于算法服务提供者和技术支持者，特别是大模型应用的企业来说，备案要求是企业选择底座模型和构建应用时就要优先考虑的。这不仅能够确保企业的合规运营，也能避免因未履行算法合规义务导致后续整改动作增加成本或影响相关业务的进展。

 

本文将通过对算法备案制度的介绍，帮助企业更好的了解该制度的基本要求、备案责任及合规要求。

 

一、算法备案相关法律法规

 

2021年9月17日，在国家互联网信息办公室、工业和信息化部等联合发布的《关于加强互联网信息服务算法综合治理的指导意见》（以下简称《指导意见》）。该《指导意见》明确提出，“利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”。 为实现这一目标、完善监管体系，《指导意见》进一步强调了“创新性地构建形成算法安全风险监测、算法安全评估、科技伦理审查、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系”。

 

2022至2023年，为了规范互联网信息服务活动，促进互联网信息服务健康有序发展，保护用户权益，有关部门根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务管理办法》以及《中华人民共和国科学技术进步法》等法律、行政法规，制定并发布了一系列配套的规定和制度文件。主要规定如下：

 

 

上述规定不仅细化了算法备案的具体流程和要求，明确了算法提供者的责任和义务，还加强了对算法应用过程中可能产生的安全风险、伦理问题以及违法违规行为的监督与管理。

 

二、需要备案的算法类型及应用场景

 

 

需要备案的算法类型主要包括深度合成算法、推荐算法、排序算法、选择算法、检索算法等可能影响公众舆论或社会秩序的算法。根据网信办公布的备案成功案例[1]梳理了算法的定义、应用场景如下：

 

 

三、备案义务主体及其合规义务

 

1、算法备案相关规定对于备案义务主体的要求体现了两个关键点：

1）主体角色条件：具体指服务提供者和技术支持者，涵盖算法推荐服务、深度合成服务和生成式人工智能服务等。上述主体在提供算法服务或技术支持时，若其服务具有舆论属性或社会动员能力，则必须履行备案手续。具体而言，这些主体需在提供服务之日起的十个工作日内，通过互联网信息服务算法备案系统，详细填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，并完成备案流程。此外，当服务内容或算法类型发生变更时，也需及时履行变更备案手续；若服务终止，则需办理注销备案手续。

 

2）限定条件：具有舆论属性或者社会动员能力。

 

 

2、相关主体的算法合规义务包括但不限于：

1）建立内部合规机制：确保算法安全、合法运行，涵盖数据处理、算法模型管理等。

 

2）保障用户权益与管理：如保障用户知情权、用户选择权及隐私保护，确保用户使用算法时合法权益不受侵害。

 

3）定期进行算法自评估并改进：对算法的合规性、安全性等定期进行评估并改进，确保算法符合最新的法律、法规及行业标准。

 

4）建立外部监督机制：包括进行算法分级管理、履行算法备案义务、接受外部监管部门的监督检查，及时作出整改。

 

四、 未合规进行算法备案的法律后果

 

1. 监管机关处罚[2]

1）警告、通报批评与责令限期改正：若企业未按规定履行算法备案义务或违反相关条款，网信部门、电信、公安、市场监管等相关部门会给予警告和通报批评，并责令限期整改，以符合算法备案的合规要求。

 

2）罚款：对于拒不改正或情节严重的，企业将被处以1万元以上10万元以下的罚款，具体罚款金额视违规情况而定。此外，如果企业在备案过程中隐瞒情况或提供虚假材料，也会面临同样的处罚。

 

3）撤销或撤销备案：若企业通过不正当手段（如隐瞒信息或提供虚假材料）取得备案，网信部门将撤销其备案资格。此外，如果具有舆论属性的算法服务提供者在终止服务时未办理注销备案，或者因违法被责令关闭网站、吊销业务许可证或营业执照，网信部门将予以注销备案。

 

4）暂停信息更新：针对拒不改正或情节严重的企业，监管机构有权责令其暂停信息更新，这包括暂停通过算法推荐服务发布或更新内容。此举将直接影响平台的正常运营和内容更新能力。

 

5）无法上架产品、下架处理或停运风险：未按规定备案的企业可能被禁止在应用市场上架其产品，或现有产品被下架。情节严重的，平台可能会被责令停运或停止部分服务。

 

2、无法在平台上架应用

微信小程序、抖音小程序、OPPO开放平台、华为应用分发等主流平台，针对“深度合成”类应用的上架，均在资质要求中明确提出了算法备案的规定。

 

例如，

微信小程序平台对于使用自研技术、第三方技术中涉及“深度合成”算法的提出了提供算法备案系统“审批中”的截图要求[3]。

 

 

华为在应用资质审核要求中提出了针对提供深度合成或生成式人工智能服务需要提供互联网信息服务备案的要求。[4]

 

 

在这些平台上架应用时，若涉及使用深度合成技术，企业必须先履行算法备案义务，否则将面临着无法再该等平台上线运营的风险。这意味着，备案不仅是遵守法律的必要步骤，也是保障在平台上架运营的基础。

 

五、合规要点

 

备案需要在充分理解法规政策的基础上，根据公司的实际情况确保备案流程的顺利推进。

 

• 未雨绸缪：对于算法服务提供者、技术支持者，尤其是大模型应用的企业来说，备案要求是企业选择底座模型、构建应用时就要优先考虑的。这不仅能够确保企业的合规运营，也能避免因未履行算法合规义务导致后续整改动作增加成本或影响相关业务的进展。

 

• 合理披露：在备案过程中，企业应合理选择需要公示的信息，避免过度披露商业机密或敏感运营信息。选择性披露的做法可以保护企业的核心竞争力，同时满足合规要求。

 

• 备案动作：在填写自评估报告时，企业需要按照模板的要求逐项回应，确保每个要点都涵盖到位，避免遗漏。在机制落实方面，可能需要提供截图、日志等实际操作的证据作为佐证。此外，在线填报的信息与自评估报告中的内容应保持一致，以确保准确性和一致性，避免因信息不符而影响备案通过。

 

• 持续合规：备案通过后，企业仍需履行持续的合规审查义务。应定期检查和更新备案信息，确保在公司业务、技术或运营模式发生变化时及时进行备案信息的变更或更新，防止因疏忽导致违规风险。

 

六、结论

 

算法备案不仅是企业合规运营的必要步骤，也是保护用户权益的重要手段。通过合理的披露和审慎的备案动作，企业能够避免过度泄露敏感信息，同时满足监管要求。及时、全面、准确地进行算法备案，不仅能帮助企业在应用市场顺利上线运营，还能有效预防法律风险，助力企业应对业务变化和技术迭代，确保企业在合规框架下稳步发展。

 

[2] 参见：《互联网信息服务算法推荐管理规定》第31条-第33条，《互联网信息服务深度合成管理规定》第21条，《生成式人工智能服务管理暂行办法》 第21条。

[3] 来源：小程序开发的服务类目（https://developers.weixin.qq.com/miniprogram/product/material/#资讯），日期：2024年9月25日。

[4] 来源：应用资质审核要求（https://developer.huawei.com/consumer/cn/doc/app/80301），日期：2024年9月25日。