生成式 AI 服务准备向公众开放:先判断哪些监管触发,再按什么顺序准备材料?
生成式 AI 服务上线前,应先确认服务对象、功能和数据流,再分别判断生成式服务、算法推荐、深度合成、内容标识、拟人化互动与数据跨境要求,不能把算法备案等同于全部义务完成。
吕箐翎律师的判断是:生成式 AI 服务准备向公众开放时,第一步不是单独追问“算法备案做完没有”,而是先把服务对象、功能、内容生成方式和数据流固定下来。 只有明确服务是否面向境内公众、实际提供哪些能力、是否包含推荐或深度合成、是否采用拟人化互动,以及数据是否流向境外,才能判断哪些规则被触发、哪些材料必须在上线前闭合。
算法备案、安全评估、生成合成内容标识、用户权益安排和数据出境路径是不同判断对象。完成其中一项,不能自动证明其他义务已经完成;反过来,某项规则不适用,也不能据此跳过其余触发点。
第一步:先做服务事实底稿,不先做结论表
上线前应先形成一份可核对的服务事实底稿,至少回答:
- 服务向企业内部、特定客户还是不特定公众开放,用户位于哪里;
- 用户可以输入什么,系统输出文本、图片、音频、视频还是虚拟角色互动;
- 是否存在个性化推送、排序精选、检索过滤、调度决策等推荐功能;
- 是否使用人脸、人声、虚拟人物、身份替换或其他深度合成能力;
- 模型由谁提供,推理、存储、日志、人工审核和远程运维分别发生在哪里;
- 输入、输出、账号、设备、反馈和未成年人相关信息如何收集、保存、调用及删除。
这一底稿的作用是确定监管判断的对象。产品名称叫“助手”“智能客服”或“创作工具”,都不能替代对实际功能和数据处理的核查。
第二步:按六个触发点逐项判断,不能互相覆盖
1. 是否属于面向公众提供的生成式人工智能服务
应先核服务对象和开放方式,再看系统是否生成文本、图片、音频、视频等内容。若服务落入面向境内公众提供生成式人工智能服务的适用范围,应继续核对训练数据与知识产权、个人信息、生成内容、用户权益和相关安全要求。企业内部研发工具、封闭测试或特定业务系统是否落入同一范围,不能仅凭“用了大模型”判断。
2. 是否同时提供算法推荐功能
生成能力之外,如果服务还通过算法向用户提供个性化推送、排序精选、检索过滤或调度决策等功能,应单独核对算法推荐规则下的治理、用户权益及备案等要求。生成式服务与算法推荐可能同时存在,不能用一次备案或一个功能名称相互替代。
3. 是否包含深度合成能力
涉及人脸、人声、姿态、场景、虚拟人物或其他深度合成时,应进一步识别服务提供者、技术支持者、内容使用者等具体角色,并核对安全评估、备案、标识、数据与模型安全以及个人权益要求。是否触发以及由谁承担何种义务,要以实际技术和业务角色为准。
4. 生成合成内容如何落实标识
《人工智能生成合成内容标识办法》已于 2025 年 9 月 1 日施行。上线材料不能只写“页面会提示 AI 生成”,还应对应具体内容形态,说明显式标识、文件或内容中的隐式标识、下载导出、传播平台衔接和异常处理如何落实。标识设计应进入产品和技术验收,而不是上线后再补一段用户协议。
5. 是否属于拟人化互动服务
《人工智能拟人化互动服务管理暂行办法》自 2026 年 7 月 15 日起施行。若产品以拟人化方式持续与用户互动,特别是涉及情感陪伴、虚拟角色、未成年人或可能形成依赖的场景,应单独核对风险提示、服务边界、未成年人保护、数据安全和个人信息保护措施。普通问答是否构成拟人化互动,仍要结合角色设定、交互方式和实际功能判断。
6. 数据是否发生跨境流动
使用境外模型 API、境外存储、境外人工审核或境外主体远程访问境内数据时,应画出数据流并识别个人信息、重要数据及接收方。是否需要安全评估、标准合同、认证或可适用豁免,要结合数据性质、数量、场景和现行规则判断;“供应商在境外”不当然等于必须申报,也不等于无需处理。
第三步:材料按“事实—触发—专项—阻断”排序
更有效的准备顺序不是同时堆六套文件,而是分四层推进:
- 事实底稿:服务对象与开放范围、功能清单、模型和供应商、系统架构、数据地图、内容流转与用户流程;
- 触发矩阵:逐项写明生成式服务、算法推荐、深度合成、内容标识、拟人化互动和数据跨境是否触发、判断依据及仍缺事实;
- 专项材料:只为已触发或尚不能排除的事项准备备案、安全评估、标识实现、用户权益、未成年人保护、数据出境等材料;
- 上线阻断表:列明哪些事项必须在开放前完成、哪些可以持续监测、由什么证据证明已落实。
这个顺序可以避免两种常见错误:一是先套用备案模板,事后才发现服务功能和数据流没有说清;二是完成某一程序后,误以为所有监管要求已经被覆盖。
上线前最后应形成什么判断
上线前结论不应只写“已备案”或“合规通过”,而应分别说明:服务事实截至哪一版本;六个触发点的适用判断及依据;尚存不确定性;必须完成的产品、技术和材料动作;若功能、用户范围、模型供应商或数据流变化,哪些判断需要重新核对。
吕箐翎律师提示,真正可用于上线决策的不是一张证书,而是一条能从服务事实追溯到适用规则、再追溯到具体产品措施和材料证据的判断链。 当前事实不足时,下一步应先补服务边界、功能清单和数据流,而不是用“算法备案已完成”代替全部结论。
依据与边界
上述判断框架主要依据《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《人工智能生成合成内容标识办法》《人工智能拟人化互动服务管理暂行办法》和《促进和规范数据跨境流动规定》。这些规则分别支撑不同的服务、功能、内容标识、互动和数据流判断,不能单独替代对具体产品事实、适用范围和材料完成状态的核查。
参考资料
- [1] 《生成式人工智能服务管理暂行办法》
- [2] 《互联网信息服务算法推荐管理规定》
- [3] 《互联网信息服务深度合成管理规定》
- [4] 《人工智能生成合成内容标识办法》
- [5] 《人工智能拟人化互动服务管理暂行办法》
- [6] 《促进和规范数据跨境流动规定》