为什么说人工智能算法要备案

一算法备案的基本要求

算法备案制度

企业或个人在开发和应用人工智能算法时，需要根据相关法规要求，向主管部门进行备案登记的一种行政管理制度。这种制度的目的在于加强对人工智能算法的监管，防范算法带来的风险，保护公众利益。

02

算法类型

对所有类型的算法推荐服务进行的登记与审核。这些算法服务广泛应用于个性化推送、排序精选、检索过滤等多个领域，不局限于深度学习或大型模型。算法备案的主要目的在于确保算法的安全性、透明度、公正性和可解释性，以保护用户权益，防止算法滥用和歧视。

03

备案要求

算法提供者需提交详细的算法说明文档、性能测试报告及安全评估报告等材料。监管部门会严格审核这些材料，必要时进行现场检查或要求算法提供者进行演示，以确保算法符合相关法规和标准。

备案主体

算法备案是指算法服务提供者或技术支持者，按照相关法律法规要求，向监管部门提交算法相关信息，经过审核后获得备案号的过程。

备案的主要目的是确保算法的安全合规，推进算法透明、公平、安全等治理目标，保护网民权益。

相关法律依据

随着《中华人民共和国网络安全法》、《中华人民共和国数据安全法》及《中华人民共和国个人信息保护法》等上位法的相继出台，算法治理政策逐步完善。特别是《互联网信息服务深度合成管理规定》、《互联网信息服务算法推荐管理规定》以及《生成式人工智能服务管理暂行办法》的实施，明确了算法备案的重要性。

强制性

上述政策法规要求：具有舆论属性或社会动员能力的算法服务提供者必须履行备案手续，以确保算法的安全性和合规性。

算法备案程序的适用对象：根据现行的相关规定，算法备案程序主要适用于涉及公共利益、国家安全等领域的关键算法，以及可能产生重大社会影响的民生领域算法。具体包括：金融、医疗、教育、就业等领域的关键算法，以及可能影响公众权益的推荐系统、内容分发等算法。

算法备案的意义：算法备案程序的实施，有助于建立健全人工智能算法的监管体系，提高算法的透明度和可解释性，减少算法带来的潜在风险。同时，它也为算法研发单位提供了合规性指引，规范算法开发和应用行为，促进行业健康有序发展。总的来说，算法备案制度是我国规范人工智能发展的重要举措，对于推动AI技术的安全可控应用具有重要意义。

算法范围—五类基本算法

生成合成类算法

自动或辅助生成、编辑文本、图像、语音、视频等网络信息内容的算法

个性化推送类算法

利用用户属性数据或用户行为数据实现信息个性化分发的算法

排序精选类算法

以客观因素或主观因素为依据，设置、调整网络信息内容排列顺序的算法

检索过滤类算法

包括检索算法和过滤算法，用于匹配和筛选网络信息内容

调度决策类算法

自动或辅助生成供需匹配、供需调节、路径规划等调度决策结果的算法

   无需备案的情况：明确未向公众提供服务的应用/人工智能技术，以及内部研发且不对外提供服务的技术

算法备案系统

深度合成类算法公示

其它算法备案公示

二

算法安全的主体责任

三

算法安全自评估报告

材料评估要点

01

算法安全评估报告

对算法的流程、输入输出训练数据、模型以及干预策略等进行全面、完整、准确的评估，并给出详细的报告内容和结论。

02

内容安全治理

建立有效的算法安全治理机制，制定明确的算法安全规范，关注治理核心，如涉政等违法信息、虚假信息、歧视、隐私泄露、侵权、黑灰产以及数据投毒等问题。

03

算法公示

在算法应用过程中保持透明度，公开算法的原理、应用场景、运行机制以及目的意图等信息，增强用户对算法的信任度和满意度。

（左右滑动查看更多）

评估范围

总体评估

      示例：

    算法在数据安全防护、用户知情权保障、内容生态治理、内容多样性保障机制、不良信息防范、算法滥用风险控制以及模型安全保障方面，通过一系列综合性的策略与措施，展现了较高的安全管理水平。具体表现为：

    （1）数据采集、使用、存储过程严格遵循法律法规要求，用户同意机制完善，加密技术有效保障了数据传输和存储安全；

    （2）用户知情权得到充分尊重，通过透明的隐私政策、算法说明及同意机制确保用户对个人信息处理的完全掌握；

    （3）建立了针对不良信息的识别与抵制机制，包括算法打压、人工审核结合、用户教育等多层防御体系；

    （4）算法安全策略全面，包括模型审计、多级审核、用户反馈循环等，有效降低了算法滥用风险，确保了服务的合规与可控性。

风险点识别与改进空间

示例：

尽管总体评估结果积极，但仍存在几点需要注意和改进的空间，以进一步提升安全性：

（1）数据生命周期管理的细化：虽然有数据销毁机制，但需进一步细化数据保留期限策略，确保过期数据及时且安全销毁；

（2）算法透明度提升：虽然有可解释性工具，但用户和监管机构对算法决策过程的透明度需求日益增加，需持续提升；

（3）第三方合作监管：虽然有合同约束，但加强对第三方数据使用的定期审计和评估，确保持续合规性；

（4）应急响应演练：虽然有应急响应机制，但需定期组织实战演练，提升团队面对真实安全事件的快速响应和恢复能力。