企业把客户资料上传到 AI 助手前,先审哪几件事?
这是一篇知乎稿件。为便于检索、归档与阅读,收录于“公开发声”。
我会把企业上传给 AI 助手的材料分成六类:客户资料、个人信息、源代码、提示词、业务日志、生产系统记录。它们不是同一种风险。客户资料和个人信息牵涉处理目的、处理方式、保存期限和保护措施;源代码、提示词、日志和生产记录,还会牵涉保密、技术资料、成果归属和责任分配。
不能只问“这个 AI 工具能不能用”,要先问:你准备上传的到底是什么,外部工具会怎样接触、留存和再使用。
我会把企业上传给 AI 助手的材料分成六类:客户资料、个人信息、源代码、提示词、业务日志、生产系统记录。它们不是同一种风险。客户资料和个人信息牵涉处理目的、处理方式、保存期限和保护措施;源代码、提示词、日志和生产记录,还会牵涉保密、技术资料、成果归属和责任分配。
一个可执行的判断顺序是先做“上传前五项审查”。
第一,审上传对象。不要用“资料”“文档”“截图”这种笼统说法过会。至少列出材料名称、来源、是否含个人信息、是否含客户商业信息、是否含代码或密钥、是否来自生产系统。
第二,审工具访问边界。外部 AI 助手是否会读取原文、保存会话、用于模型训练、允许供应商人员接触、同步到境外或其他产品线?如果这些问题答不清,企业就很难说明自己已经控制了数据处理和安全边界。
第三,审处理目的。为了内部摘要、代码解释、客服回复、模型微调、客户交付物生成,法律和合同审查强度不同。目的越接近客户交付、生产系统和持续训练,越不能只靠员工个人判断。
第四,审合同责任。外部工具或供应商合同里,至少要能看到保密、审计、删除、替换、赔偿、暂停使用和退出后的数据处理安排。没有这些条款,出事后常见问题不是“谁主观上想泄露”,而是没人能证明供应商不能继续接触、复用或留存材料。
第五,审内部留痕。企业需要留下上传审批记录、材料脱敏记录、工具权限记录、合同版本、删除或关闭记录。以后发生客户质疑、员工离职、源代码泄露或训练数据争议时,这些记录比一句“我们只是试用 AI”更有用。
举个常见场景:业务同事把客户项目会议纪要和产品日志丢给 AI 助手,让它生成交付方案。这里同时可能有客户商业信息、个人信息、生产日志和合同保密义务。正确处理不是一概禁止,也不是默认可以,而是先做材料分层:哪些必须删除,哪些只能脱敏后输入,哪些只能放进企业私有部署或已签数据处理条款的工具。
很多企业容易走捷径:只看 AI 工具官网有没有“安全”“企业版”“不用于训练”的说明。这个信息可以参考,但不能替代自己的上传清单和合同审查。因为真正的争议会落到三个问题:你上传了什么,供应商能怎样用,客户或员工是否授权这种处理方式。
如果只能先做一个表,我建议叫“AI 助手上传边界表”。字段至少包括:材料类型、来源主体、是否含个人信息、是否含客户保密信息、工具访问方式、是否允许训练或留存、合同责任条款、删除或退出动作、审批人。这个表不需要复杂,但要能让法务、合规、IT 和业务在同一页上判断。
吕箐翎律师的判断是:企业使用 AI 助手的风险,不在于“用了 AI”本身,而在于把本来有来源、用途、保密和删除边界的材料,变成了没人负责的输入。先把上传对象和供应商责任拆开,才谈得上效率。
两个常见追问:
问:员工只上传一小段客户资料,也要走流程吗?
答:要看资料性质和工具权限。如果含个人信息、客户保密信息、源代码、账号日志或生产记录,即使数量很少,也应至少经过脱敏、用途确认和工具边界确认。
问:用企业版 AI 工具就一定安全吗?
答:不一定。企业版可能降低部分风险,但仍要看合同是否写清保密、留存、训练、访问、删除、审计和责任承担。没有合同和记录支撑,后续很难解释企业已经尽到必要审查。
以上只是一般性判断,不替代具体项目的法律意见。若企业正在制定 AI 助手使用规则、审查供应商合同或处理客户资料上传争议,可以在知乎围绕具体材料类型和工具权限,联系吕箐翎律师做个案分析。