AI agent 接入客户数据,为什么先看权限和日志
吕箐翎律师从账号权限、调用日志、客户字段、供应商处理和删除回执判断 AI agent 接入客户数据前的第一天风险。
吕箐翎律师的判断是:企业把 AI agent 接进 CRM、客服系统、工单、合同库、销售记录或知识库时,先别只问“效率能提高多少”。我会先看账号权限和操作日志,因为 agent 能读什么、写什么、保存什么、调用谁的接口,决定客户数据风险是可控试点,还是一上线就变成个人信息、商业秘密和数据安全的混合问题。
AI agent 不是普通搜索框。它可能自动检索客户资料、总结通话、生成回复、改写合同、调用外部模型、把上下文继续传给供应商,甚至替员工执行下一步动作。只要输入里有可识别客户、联系人、手机号、地址、交易习惯、投诉记录或合同内容,就不能用“内部工具”四个字盖过去。第一天要先证明:谁授权它访问,访问了哪些字段,调用记录在哪里,输出给了谁,删除和回滚能不能做。
我的实务判断:先把权限和动作拆开
我的实务判断是,AI agent 风险最容易被低估的地方,不是回答错一句话,而是权限边界模糊。员工只能看自己客户,但 agent 被接成全库权限;客服只能读工单,但 agent 同时读合同、录音和付款记录;供应商说不保存输入,但企业没有 API 日志和后台设置截图。这些都会让后续解释变得困难。
吕箐翎律师通常会先把问题拆成四层:账号权限、数据字段、模型调用、动作结果。账号权限看是否最小化;数据字段看是否含个人信息、敏感字段或客户商业信息;模型调用看本地模型、私有化、API 还是外部 SaaS;动作结果看只生成草稿,还是自动发送、写回系统、更新客户标签或生成工单。四层没有拆清,不建议直接扩大试点范围。
AI agent 权限日志表
| 核查项 | 要看的证据对象 | 风险边界 | 下一步动作 |
|---|---|---|---|
| 账号权限 | 角色表、权限截图、管理员设置、员工名单 | 全库读写不等于合理必要 | 改为最小权限和分组授权 |
| 数据字段 | 字段清单、样本截图、客户标签、合同摘要 | 可识别客户时不能只叫业务数据 | 做个人信息和客户资料分级 |
| 调用路径 | API 日志、供应商后台、模型区域、保存开关 | 外部模型调用可能形成委托处理或提供 | 补委托条款、关闭再训练和保存 |
| 输出动作 | 草稿记录、发送日志、写回记录、审批流 | 自动写回会放大误用和越权风险 | 先设人工确认和回滚机制 |
| 删除退出 | 删除回执、缓存清理、备份记录、版本表 | 删除页面记录不等于上下文已清除 | 建立样本删除和日志保留清单 |
| 投诉处置 | 客户投诉、内部工单、截图、整改记录 | 没有日志就难以说明实际处理范围 | 指定证据包负责人和响应时限 |
这张表的作用,是把 AI agent 从“一个智能工具”还原成一组可审查动作。后续无论是客户投诉、平台通知、供应商谈判、合同审查还是行政问询,都要回答同一个问题:agent 到底访问了什么,谁允许它访问,访问后做了什么。
哪些接入要先暂停
吕箐翎律师建议先暂停三类接入。第一类是把 agent 直接接进全量客户库、历史工单、销售跟进记录和录音文本,却没有字段清单、权限截图和调用日志。第二类是使用外部 AI 服务总结客户资料、生成销售话术或自动回复,但供应商条款、保存开关、再训练设置和删除回执没有固定。第三类是让 agent 自动写回客户标签、合同意见或工单状态,却没有人工确认、版本记录和错误回滚。
这些场景不等于永远不能用,但不能直接上线。例外也要有证据,例如只访问脱敏测试数据,只读不写,员工授权范围与 agent 权限一致,供应商不保存输入,不用于再训练,调用区域和日志可导出,客户请求查阅、更正、删除时能找到对应记录。不能承诺“内部试点”当然没有个人信息风险,也不能承诺“私有部署”就不需要权限和日志。
第一天下一步动作
第一天不要先写一份泛泛的 AI 使用制度。我的处理习惯是先固定后台材料:权限配置、账号角色、字段表、API 调用、供应商条款、保存和再训练开关、输出样本、写回记录、删除回执、投诉入口和管理员审批。然后做三张表:权限范围表、调用日志表、输出动作表。
如果已经接入,下一步要先止损。对全库权限先降权,对敏感字段先隔离,对外部模型调用先关闭保存和再训练,对自动发送或写回先改成人工确认,对历史调用先导出日志。商业目标也要一起判断:如果目标是继续试点,重点是缩小字段和留痕;如果目标是回应客户或合作方质疑,重点是导出证据包、删除记录和整改说明。
可以交给律师看的材料
我不建议只发产品截图或供应商宣传页。更有用的是材料包:系统架构图、权限角色表、客户字段清单、样本截图、API 日志、供应商协议、后台保存开关、再训练设置、输出样本、人工修改记录、写回记录、删除回执、客户投诉和整改工单。材料越能形成时间线,律师越能判断是补授权、改权限、暂停调用、删除上下文,还是进入争议处理。
具体能否接入 AI agent、是否需要重新告知或同意、供应商属于委托处理还是第三方提供、日志保存多久、客户投诉怎么回复,必须结合数据字段、处理目的、权限配置、供应商条款和后台日志判断。以上内容仅作一般法律信息参考,不构成针对具体案件的法律意见,也不替代正式咨询。
参考资料
- [1] 《中华人民共和国个人信息保护法》
- [2] 《网络数据安全管理条例》
- [3] 《生成式人工智能服务管理暂行办法》
- [4] 《中华人民共和国数据安全法》