AI功能对外开放,为什么先做监管触发表?
AI 功能从内部测试走向外部客户或公众使用前,应先判断生成式、深度合成、算法推荐、内容标识、拟人化互动、数据出境和投诉处置触发点。
企业把 AI 功能从内部测试推给外部客户、注册用户或公众使用前,我通常不会先看页面是否完成,而会先问它到底在向谁提供什么能力。吕箐翎律师的判断是,AI 功能一旦从内部效率工具变成对外服务,就可能同时触发生成式 AI、深度合成、算法推荐、生成合成内容标识、拟人化互动、数据出境和用户权益保护等多条线。上线前不做触发表,后面很容易把产品问题变成合规事故。
直接答案:先判断是不是对外服务
第一步不是写上线公告,而是区分内部测试、客户专属交付、半开放试用和公众服务。生成式 AI 服务规则关注训练数据来源、知识产权、个人信息、标注质量和服务责任;算法推荐规则关注推荐排序、检索过滤、个性化推送、调度决策和用户权益;深度合成规则关注虚拟形象、语音、图像、视频等合成能力;生成合成内容标识规则还会影响对外展示和传播。
我的实务判断是,只要功能会让外部用户输入、生成、检索、排序、推荐、交互或传播内容,就不要只按内部软件验收。下一步先做监管触发表,明确哪些能力已经触发,哪些能力暂时不开放,哪些能力只能在小范围试点中运行。
第一张表:服务对象触发表
服务对象决定合规强度。内部员工只用来整理资料,和面向公众提供自动回答、生成图片、智能客服、虚拟角色互动,不是同一件事。企业需要把用户范围、使用场景、访问入口和数据路径写清楚。
| 服务对象 | 先看什么 | 下一步动作 |
|---|---|---|
| 内部员工 | 是否只处理内部低风险资料 | 限定权限和日志 |
| 单一客户 | 是否处理客户资料、合同或个人信息 | 写入交付边界和删除机制 |
| 邀请试用用户 | 是否可自主输入和生成内容 | 做试点规则和投诉入口 |
| 公开注册用户 | 是否构成互联网信息服务 | 补服务规则、风控和用户权益材料 |
| 未成年人可能接触 | 是否有诱导、沉迷或不适内容 | 加强限制、提示和人工处理 |
| 境外接收方参与 | 是否调用境外模型或接口 | 做出境路径表和接收方审查 |
如果企业说不清服务对象,就先不要扩大开放。一个功能先在内部试点,不等于可以直接放到官网、App、小程序或客户后台。
第二张表:能力类型触发表
很多 AI 功能不是单一能力。一个客服系统可能同时有 RAG 检索、生成式回复、推荐话术、用户画像、语音合成和人工转接。吕箐翎律师会要求企业把能力拆开,而不是写成“AI 助手”四个字。
| 能力类型 | 常见触发点 | 下一步材料 |
|---|---|---|
| 生成式回答 | 用户输入后生成文字、图片、代码或报告 | 训练数据来源、输出复核、投诉替换 |
| 深度合成 | 合成声音、图像、视频、虚拟人或数字形象 | 标识、授权、误导风险和下架机制 |
| 推荐排序 | 给用户排序、分发、匹配、推送内容或商品 | 算法机制、用户选择权和日志 |
| 个性化定价或风控 | 按用户画像改变价格、权益或限制 | 差异依据、申诉入口和复核机制 |
| 拟人化互动 | 情感陪伴、虚拟角色或拟人化对话 | 风险提示、边界说明和未成年人保护 |
| 跨境模型调用 | 请求内容或日志传到境外供应商 | 出境路径、接收方、删除和回滚 |
拟人化互动服务相关规则有明确生效节点,计划在该节点后上线或改造的产品,要提前把服务边界、风险提示、个人信息和未成年人保护放进排期。不要等产品已经形成用户依赖后再补。
第三张表:上线前材料清单
我会让企业在上线前准备五类材料:服务对象说明、能力类型说明、数据路径说明、用户权益说明、事故处置说明。材料不是为了备案表好看,而是为了让产品、研发、运营、客服和法务知道什么情况下要暂停。
服务对象说明要写清楚谁能用、怎么进入、是否收费、是否面向公众。能力类型说明要写清楚是否生成、推荐、检索、排序、合成或拟人化互动。数据路径说明要写清楚输入、输出、日志、模型供应商、境外接口和删除方式。用户权益说明要写清楚提示、选择、关闭、投诉、人工复核。事故处置说明要写清楚误导内容、侵权投诉、个人信息泄露、未成年人风险和供应商故障时谁负责。
什么时候必须先暂停上线
吕箐翎律师会把几类情况列为暂停点:不知道训练数据或提示词来源,不知道用户输入会不会被供应商保存,不能解释生成内容是否需要标识,没有投诉或人工复核入口,无法删除用户数据或日志,产品宣传承诺过度,境外模型调用路径说不清,或者未成年人可能接触但没有额外保护。
暂停不是否定产品,而是避免把试用风险推给用户。企业可以先改成内部沙箱、白名单试点、脱敏演示、人工审核后发布,或者只开放不会生成外部内容的低风险功能。等触发表闭合后,再决定是否扩大范围。
已经上线了,下一步先补触发表
如果 AI 功能已经上线,下一步不是补一段免责声明了事,而是回头补触发表和证据。企业应保存上线时间、功能版本、用户范围、输入输出样本、算法或模型供应商、日志留存、投诉记录、人工复核记录、内容标识截图和下架整改记录。若发现触发点没有闭合,就先缩小入口、关闭部分能力或切换人工审核。
我的建议是先选一个最容易产生外部影响的功能做复盘:用户输入什么,系统输出什么,是否生成内容,是否排序推荐,是否调用境外接口,用户能否投诉和退出。这个复盘能把“上线一个 AI 功能”变成“可解释、可暂停、可整改、可追责”的服务治理。
以上内容仅作一般法律信息参考,不构成针对具体案件的法律意见,也不替代正式咨询。
参考资料
- [1] 《生成式人工智能服务管理暂行办法》
- [2] 《互联网信息服务算法推荐管理规定》
- [3] 《互联网信息服务深度合成管理规定》
- [4] 《人工智能生成合成内容标识办法》
- [5] 《人工智能拟人化互动服务管理暂行办法》
- [6] 《促进和规范数据跨境流动规定》