提供大模型备案全流程服务,从数据准备到申报审核,确保高效合规通过。
协助企业完成调度、决策、推荐、排序、生成类算法备案资料准备及提交。
通过敏感题集、提示词注入、目标劫持等方式评测模型安全能力并提供整改方案。
建立AI内容合规体系,有效识别AI生成内容中的风险问题。
语料安全筛选
安全增强
备案政策流程咨询
评估测试集
关键词库
备案迎检服务
大模型评测
评测整改方案
用户提问分类处置
RAG可信知识库
长文本/复杂语义处理
突发舆情布控服务
行业领先的内容安全识别技术,累计拦截违规内容超万次。 已协助上百家企业完成内容安全体系建设,实现 AIGC 项目内生安全。
支持生成内容的全链路检测,精准过滤违规内容,让您的 AIGC 应用安全过审。
政策研究员 + 技术专家组成“双核顾问团队”,深入解读政策法规, 帮助企业牢筑安全底线,显著缩短备案准备周期。
基于海量合规语料构建专项样本库,覆盖行业全场景, 实时更新,精准匹配审核标准。
根据国家网信部、公安部、工信部、国家市监总局一起联合发布出台的《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》 和《生成式人工智能服务管理暂行办法》的文件中,凡在中国境内,应用算法推荐技术向用户提供互联网信息服务的企业或机构,必须依法进行算法备案。
需要进行算法备案的情况主要包括以下几种:
1.具有舆论属性或社会动员能力的算法推荐服务提供者:这类服务提供者包括新闻、社交媒体、搜索引擎等领域的企业。他们的算法通过分析用户行为和偏好,向用户推荐内容,对公众意见的形成和传播具有重要影响。因此,这些服务提供者必须向国家或地方互联网信息办公室(网信办)等监管机构提交算法的详细信息,包括算法的设计原理、推荐逻辑、数据来源等,并进行登记注册。
2.深度合成服务提供者:深度合成技术如深度伪造技术可以生成高度逼真的图像、视频或音频,广泛应用于娱乐、教育等领域,但也存在被用于制造虚假信息、侵犯个人隐私的风险。因此,提供深度合成服务的主体需要向监管机构提交算法的详细信息,包括合成技术的具体实现方式、使用场景、安全措施等,并进行备案。
3.生成式人工智能服务提供者:生成式人工智能技术可以自动生成文本、图像、音乐等内容,具有巨大潜力但也存在被用于制造虚假信息、侵犯版权的风险。因此,提供生成式人工智能服务的主体需要向监管机构提交算法的详细信息,包括生成逻辑、数据来源、版权声明等,并进行备案。
4.个性化推送类、排序精选类等算法技术:这些算法技术包括个性化推送类(如电商商品推荐)、排序精选类(如新闻资讯排序)等。如果这些算法技术被用于提供互联网信息服务,通常也需要进行备案。
《生成式人工智能服务管理暂行办法》第十七条指出,提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估。这里所说的安全评估,其实就是生成式人工智能服务备案。
需要进行大模型备案的情况主要包括以下几种:
1.面向公众提供服务的生成式人工智能模型:如果大模型利用生成式人工智能技术,向境内公众提供生成文本、图片、音频、视频等内容的服务,且具有舆论属性或社会动员能力,则需要进行大模型备案。这包括自研大模型或基于开源模型进行深度定制且涉及大量训练数据的模型。
2.企业规模较大或服务范围广泛:企业规模较大,或者模型服务的应用范围较广,尤其是主营业务依赖生成式人工智能的企业,也需要进行大模型备案。
3.地方政策要求或推荐:所在地区提供备案补贴政策的企业,或被地方网信办、工业和信息化局等相关部门通知或推荐的企业,也需要进行大模型备案。
4.具有舆论属性或社会动员能力的模型:模型的实际应用场景涉及面向消费者的场景,尤其是收费场景;市场占有率行业头部的企业;具有外资属性的企业,这些情况也需要进行大模型备案。
大模型备案的流程周期:3 - 6 个月,时间跨度较长根据相关法规和流程,大模型备案涉及多个步骤和材料,需要详细准备和审核
大模型备案的具体流程和所需材料
1.了解法规政策:企业需要深入了解国家层面的《生成式人工智能服务管理暂行办法》以及地方性的配套政策,确保合规性
2.确定备案主体:大模型的开发者、运营者或所有者即为备案主体,通常是依法设立的企业法人或其他组织。在复杂合作模式下,需明确主要责任方。
3.自检模型状态:对训练数据进行严格筛查,去除敏感信息和侵权内容,确保数据来源合法合规;对模型架构进行漏洞扫描,防范网络攻击风险;通过模拟高并发场景测试模型的响应时间和吞吐量,保障稳定性;选取典型业务场景下的样本数据评估模型的准确性和召回率。
4.提交备案材料:包括《生成式人工智能 (大语言模型)上线备案申请表》、安全自评估报告、模型服务协议、语料标注规则等。
(1)算法备案:面向对象更为广泛,涵盖了各类算法服务,包括但不限于个性化推送类、排序精选类、检索过滤类、调度决策类以及生成合成类(含深度合成服务)等多种算法类型。无论是简单的推荐算法,还是复杂的决策算法,只要涉及算法服务的提供,均在算法备案的范畴之内。
(2)大模型备案:主要适用于提供生成式人工智能服务的主体,此类服务通常基于深度学习或机器学习模型,通过对大量数据的学习和训练,生成文本、图像、音频等内容。例如,常见的语言生成模型、图像生成模型等。
| 类型 | 算法备案 | 大模型备案 |
|---|---|---|
| 全称 | 互联网信息服务算法备案 | 生成式人工智能上线备案 |
| 主要法规要求 |
《互联网信息服务算法推荐管理规定》 《互联网信息服务深度合成管理规定》 |
《生成式人工智能服务管理暂行办法》 |
| 提交途径 | 线上提交 | 线下提交至属地网信部门 |
| 审核部门 | 国家网信办 |
所在省/自治区/直辖市网信办初审, 国家网信办终审 |
| 备案对象 |
应用五大算法技术向用户提供信息服务的; 所有具备舆论属性/社会动员能力的 AIGC 深度合成产品、应用、功能 |
涉及舆论属性或社会动员能力的 AIGC 产品; 面向公众提供生成文本、图片、音频、视频等内容的模型服务 |
| 审核重点 |
算法安全、透明度、可审计性; 需公示算法原理、运营机制、应用场景、目的等信息 |
模型可靠性、可追溯性、伦理合规; 审查模型架构、训练数据来源质量、应用场景等 |
| 审核方式 | 材料审核 | 材料审核 + 技术测试 |
| 备案结果 |
算法备案系统官网可查询;国家网信办公告: 查看备案公告链接 |
国家网信办官网公告: 查看备案公告链接或当地网信办下发备案告知书(编号) |
| 特点 |
一个企业的不同算法可分别备案; 一个算法一个备案号可用于多个产品; 一个产品也可拥有多个算法备案号 |
可一次备案多个生成式应用、功能或服务形态 |
客服
咨询
135-8050-0032
电话咨询
微信咨询