(一)核心政策文件
《生成式人工智能服务管理暂行办法》(下称《办法》)由国家互联网信息办公室等七部委于2023年7月10日联合发布,2023年8月15日正式生效,是算法与大模型备案合规的核心法律依据。
(二)适用范围
适用主体:利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容服务的组织、个人。
强制要求:提供具有舆论属性或者社会动员能力的生成式人工智能服务,应当开展安全评估,并按规定履行算法备案、变更及注销备案手续。
(三)关联政策法规
需同步遵循《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》等相关文件要求。
(一)互联网信息服务算法备案
1. 备案适用场景
适用于提供文本深度合成技术(如AI问答)、生成合成类(深度合成)等相关服务,包括APP、小程序、网站等各类服务形态。
2. 必备资质材料(需同时满足对应条件)
服务类型 | 核心资质材料 | 备注 |
深度合成服务 | 1. 互联网信息服务算法备案(算法类型:生成合成类(深度合成), (备案网址:https://beian.cac.gov.cn); 2. 加盖公章的《安全评估报告》及全国互联网安全服务管理平台提交结果截图; 3. ICP证或ICP备案; 4. 软件著作权相关证书(三者选一) | 所有材料需上传原件或加盖公章的复印件,格式为jpg、jpeg等,文件大小不超过10M |
生成式人工智能服务(合作模式) | 1. 互联网信息服务算法备案(生成合成类); 2. 合作协议(含算法名称、应用产品或备案编号); 3. 合作双方《安全评估报告》及平台提交结果截图; 4. ICP证或ICP备案; 5. 软件著作权相关证书(三者选一); 6. 通用承诺函 | 合作协议需明确双方权利义务及备案关联信息 |
3. 备案流程
(1)算法责任主体信息填报:提交主体基本信息、法定代表人信息等,同时填写《算法备案承诺书》和《落实算法安全主体责任基本情况》。
(2)主体信息审核:备案系统审核主体资格及信息完整性、合规性。
(2)算法/产品及功能信息填报:包括算法属性、产品名称、服务形式、功能路径等。
(4)算法信息审核:审核算法合规性、风险防范措施有效性等。
(5)公开发布备案号:审核通过后,系统公开发布备案编号,完成备案。
4. 核心备案模块内容
备案模块 | 具体填报内容 |
主体信息 | 基本信息、证件信息、负责人信息;相关承诺书及责任落实情况 |
算法信息 | 基础属性(类型、应用领域、自评估报告等);详细属性(数据、模型、风险防范机制等) |
产品及功能信息 | 产品信息(名称、服务形式、访问地址等);功能路径(多步导航需按顺序填写) |
算法安全机构 | 机构名称、组织架构;负责人信息及职责;技术保障措施 |
算法安全管理制度 | 自评估制度、监测制度、应急处置制度、违法违规处置制度等 |
5. 关键报告编写要求
•《算法安全自评估报告》:需填写算法基础属性、详细描述、风险描述,并附相关附件说明。
•《拟公示内容》:包括算法名称、基本原理、运行机制、应用场景、目的意图。
(二)生成式人工智能上线备案(安全评估)
1. 备案/登记分类
类型 | 适用场景 | 核心要求 |
备案 | 自研/微调大模型;具有舆论属性或社会动员能力的服务 | 需完成安全评估,提交完整备案材料 |
登记 | 通过API使用已备案大模型 | 无需语料评估,提交登记材料即可 |
2. 安全评估责任与后果
•责任:服务提供者需主动开展安全评估,提交报告接受网信部门审查、检查及评审。
•处罚:未按规定开展安全评估的,将面临警告、限期改正、暂停服务等处罚,构成违法的依法追责。
3. 安全评估核心内容
评估类别 | 评估要点 |
语料安全评估 (登记不含) | 语料规模、来源、合法性;合规性、个人信息保护、知识产权等评估 |
模型(产品)安全评估 | 语料内容、生成内容、知识产权、公平性、透明性等评估 |
安全措施评估 | 适用人群、个人信息保护、内容标识、投诉举报机制等 |
总体结论 | 是否符合《办法》规定;主要风险及预判;上线建议 |
4. 备案/登记材料清单
备案分项 | 备案内容 | 登记内容 |
基本情况 | 模型/单位名称、负责人信息、主要功能、适用范围等 | 与备案相同 |
模型研制&调用 | 模型备案情况、算力资源、语料信息、算法模型 | 调用已备案模型证明 |
服务与安全防范 | 推理算力资源、服务类型、拦截措施、模型更新机制 | 与备案相同 |
安全评估 | 基本情况;语料、生成内容、公平性等评估情况 | 与备案相同 |
自愿承诺 | 信息真实、评估公正、承担责任 | 与备案相同 |
附件及备注 | 评估报告、服务协议、标注规则等 | 调用证明、管理制度、拦截列表等 |
5. 上线备案服务实施流程
服务分项 | 服务内容 | 实施方式 |
上线备案表填报 | 产品基本情况、模型调用情况、安全评估结论等 | 企业提供信息,第三方协助整理 |
安全评估实施 | 产品安全评估、安全措施评估 | 企业提供接口及账号,第三方制定测试标准并生成结论 |
管理制度编制 | 安全自评估、日常管理、应急处置等制度 | 采集企业情况,第三方编制报告 |
材料整改 | 针对隐患制定整改方案,优化审核策略等 | 企业实施整改,第三方协助支持 |
材料提交和审核 | 汇总材料提交主管部门,配合检查答疑 | 企业主导,第三方协助 |
(一)服务周期
(1)T0:启动大模型安全评估服务;
(2)T1:T0+10个工作日,完成安全评估服务;
(3)T2:T1+10个工作日,完成安全评测服务;
(4)T3:T2+10个工作日,编写安全评估报告;
(5)整体备案周期:通常为4-4.5个月(因地区、企业类型略有差异)。
(二)典型客户案例
客户类型 | 备案模型 | 模型服务 | 备案地点 | 备案周期 | 通过时间 |
综合性文化产业集团 | 文本、图片 | 专业内容创作、角色扮演、知识问答等 | 上海 | 4.5个月 | 2024年1月 |
国内头部学术平台 | 文本 | 垂类内容写作、RAG增强问答、内容总结 | 北京 | 4个月 | 2024年5月 |
人工智能服务商 | 文本、图片 | 专业内容写作、智能分析报告、智能Agent服务 | 北京 | 4个月 | 2024年7月 |
垂直行业央企 | 文本 | 智能服务构建、总结、问答、分析、设计 | 浙江 | 4.5个月 | 2025年1月 |
常见问题 | 应对策略 |
未充分理解备案要求 | 系统学习《办法》及关联政策,必要时咨询专业合规机构 |
提交资料不完整/不准确 | 按清单逐一核对,确保证件齐全、信息一致,提前自查准确性 |
忽视数据安全问题 | 清洗脱敏敏感数据,确保语料合法性,建立数据安全管理制度 |
算法解释不透明 | 清晰梳理算法流程与原理,简洁撰写公示内容及说明文档 |
干预策略与标识机制不健全 | 建立人工+自动双重干预策略,按规定对生成内容进行可追溯标识 |
1.保障数据安全:规范数据收集、存储、使用环节,防范泄露与滥用风险。
2.提升企业竞争力:体现企业专业能力与社会责任,增强市场信任度。
3.符合监管要求:响应国家监管政策,避免违规处罚与服务暂停风险。
项目申报,资质办理等
为中小企业提供浙江省及杭州市各部门产业政策信息咨询,通过多维度结构化处理数据,为中小企业量身打造实时、精准、高效的咨询服务平台!!!...