员工把客户名单上传AI助手,第一天先停哪类数据
员工准备把客户名单、聊天记录、工单、合同附件或业务日志上传到 AI 助手时,我会先停“来源和用途说不清”的那一类数据,而不是先讨论模型效率。吕箐翎律师的判断是:只要材料能够识别特定个人,或者供应商可能接触客户数据、模型输入输出、日志和生产系统,就不能用内部测试一句话放行;第一天应先把上传对象、授权目的、供应商访问、删…
员工把客户名单上传AI助手,第一天先停哪类数据
员工准备把客户名单、聊天记录、工单、合同附件或业务日志上传到 AI 助手时,我会先停“来源和用途说不清”的那一类数据,而不是先讨论模型效率。吕箐翎律师的判断是:只要材料能够识别特定个人,或者供应商可能接触客户数据、模型输入输出、日志和生产系统,就不能用内部测试一句话放行;第一天应先把上传对象、授权目的、供应商访问、删除更新和合同责任排成一张接入停止表,再决定继续、脱敏、补授权、改合同或暂停。
我先把上传动作拆成三条线
我会先问三个问题:谁上传,上传什么,上传后谁能接触。员工手里的客户名单、聊天记录、工单、语音图片、合同和后台日志,只要能识别特定个人,就可能进入个人信息处理边界;如果这些材料还会被供应商、云服务、平台运营方或外部模型接触,就还要看委托处理、共同处理、向第三方提供和合同责任分配。
这个拆分要比“是不是公司内部数据”更早。内部持有不等于可以改变处理目的,测试场景不等于可以绕过告知同意,供应商提供 AI 工具也不等于企业可以把客户资料、模型输入输出和日志责任全部交给对方。
第一张表叫数据接入停止表
我通常会把第一天的材料整理成一张“数据接入停止表”。表里不需要先写复杂结论,而是先写五类可核验对象:数据来源,上传材料,原处理目的,AI 使用动作,供应商接触范围。对应材料包括客户合同、隐私政策或告知同意文本、客服系统字段清单、员工上传记录、供应商服务条款、权限设置、日志方案、删除更新规则和审计留痕。
这张表的作用是把停止条件写清楚:来源不明的先停,原目的只覆盖履约或售后的先停,含个人信息但没有必要性或脱敏判断的先停,供应商可接触客户数据却没有保密、审计、删除、替换和责任条款的先停,期限届满后不能返还或删除的先停。能继续的只应是来源、目的、权限、合同和退出机制都能闭合的那一部分。
授权目的不能被内部测试稀释
我不会把“员工只是试用 AI 助手”当成放行理由。个人信息处理要看目的、方式、种类、保存期限、保护措施和相关权利义务;生成式 AI 或模型训练场景还要看训练数据来源合法性、知识产权、不含个人信息或已取得同意、标注质量和数据处理活动记录。
如果客户名单原来只用于履约、售后或客户管理,现在却要上传给 AI 助手做训练、检索、总结、客服回复或销售推荐,这就是新的使用边界。企业应先决定是缩小字段、去标识化测试、补充告知同意、限制访问权限,还是暂停真实数据接入,而不是让员工先传一批样本再补流程。
供应商访问要和合同缺口一起看
AI、云服务、数据处理或平台运营合作里,我会重点看供应商能不能接触个人信息、客户数据、源代码、模型输入输出、日志、凭证或生产系统。只要能接触,合同里就要有暂停、审计、保密、删除、替换和责任承担的安排;如果还涉及训练数据或内容来源,还要看训练目的限制、来源保证、第三方权利责任、审计权、保密义务、删除或模型更新义务。
很多企业的问题不是完全没有合同,而是合同只写服务可用、账号开通和费用结算,却没有写数据能不能被保存再训练、能不能用于其他客户项目、输出问题谁负责、员工误传数据后如何删除、模型或知识库如何更新。吕箐翎律师会先把这些合同缺口和员工上传清单对照,再决定哪些数据可以保留在企业私有环境,哪些必须要求供应商删除或替换。
删除更新顺序决定下一步怎么走
数据授权协议不能只写“授权使用数据”。我会要求先列出数据来源、数据类型、处理目的、授权范围、交付方式、个人信息处理关系、安全措施、成果归属、审计留痕、期限届满后的返还或删除。这个顺序能决定企业下一步是继续测试、暂停上线、补合同,还是先做删除更新。
吕箐翎律师的判断是:AI 助手接入客户数据的第一步,不是让业务团队写一份使用说明,而是用数据接入停止表把来源、目的、供应商访问、合同缺口和删除更新顺序逐格闭合;闭合不了的格子,就是当天应暂停的上传范围。
具体到企业动作,可以这样分流:来源和目的闭合的资料,可以在权限受控范围内继续做最小化测试;个人信息目的、必要性或告知同意缺口明显的资料,应先补授权或脱敏;供应商访问、日志、审计、删除和责任条款缺失的资料,应先改合同或要求供应商确认;涉及重要数据、跨境处理或外部模型疑点的资料,应单独做更高层级的数据合规评估。
需要律师复核的触发点很具体:员工上传记录、字段清单、客户合同、隐私政策、供应商条款、权限配置、日志方案、删除更新规则中,只要有一项无法说明来源、处理目的、供应商接触范围或退出机制,就不应把真实客户数据继续上传到 AI 助手。
以上是基于现有资料的一般法律信息,不构成针对具体项目的法律意见。具体项目还要结合数据字段、产品功能、供应商链条、客户合同和实际处理流程单独判断。
参考资料
- [1] 《中华人民共和国个人信息保护法》
- [2] 《网络数据安全管理条例》
- [3] 《生成式人工智能服务管理暂行办法》
- [4] 《中华人民共和国数据安全法》
- [5] 《中华人民共和国民法典》第八百四十三条至第八百四十五条
- [6] 《中华人民共和国著作权法》