终端 AI 助手调用个人上下文时,设备端与云端处理怎样划界?
吕箐翎律师认为,判断终端 AI 助手的数据边界,不能只看“设备端运行”或“云端增强”的产品表述,而要核对每项功能实际读取的字段、上传路径、供应商访问、再利用以及退出删除安排。
吕箐翎律师的判断是:终端 AI 助手是否属于“设备端处理”,不能只看产品名称或宣传用语。只要某项功能会读取个人上下文,就应把数据从设备读取、发送到云端、供应商访问、留存再利用到退出删除的实际路径逐段核对;其中任何一段不清楚,都不足以笼统得出“数据不出设备”或“已经获得完整授权”的结论。
先按功能还原真实数据路径
同一个 AI 助手可能让部分指令在设备上完成,同时把语音、文本、文件片段或检索请求发送到云端。日历、联系人、照片、位置、消息、会议记录和应用使用信息是否会被读取,也可能随具体功能、权限设置和用户操作而变化。
因此,判断边界时需要先回答:哪个功能读取了哪些字段,原始内容还是摘要被送出设备,发送给哪个主体,云端返回什么结果,设备和云端分别保留什么。不能因为模型入口位于终端,就推定全部处理都发生在本地;也不能因为存在云端调用,就反过来推定设备中的全部个人上下文都已上传。
个人上下文的用途不能被一个总开关概括
个人上下文中只要包含能够识别特定个人的信息,就需要核对具体处理目的、方式、种类、保存期限和相关主体。完成本次指令、同步多设备体验、诊断故障、改进产品以及用于模型训练,是不同的使用目的,不能只用“开启智能服务”或“同意隐私政策”替代对实际处理范围的判断。
吕箐翎律师会特别区分两类事实:一类是完成用户当前请求所必需的数据调用,另一类是把输入、输出、反馈或日志继续用于产品优化、模型训练或其他项目。后一类能否成立,要回到已告知的范围、处理关系、必要性、数据类型和实际技术路径,不能从前一类当然推出。
供应商能访问什么,要看权限和记录
云端能力可能由设备厂商、模型服务商、运维方或其他技术供应商共同提供。此时需要核对的不只是“数据传给了谁”,还包括供应商人员能否查看内容、是否允许下载或导出、是否调用其他服务、访问是否经过审批、操作能否留痕,以及合作关系结束后权限如何关闭。
这些事实会影响对委托处理、共同处理或向其他处理者提供等关系的判断。仅有保密条款或安全承诺,不能替代对访问主体、权限范围和数据用途的具体核对;但供应商参与技术服务本身,也不等于其当然可以把个人上下文用于自身训练或其他客户项目。
如果相关功能属于面向公众提供生成式人工智能服务,还应结合实际服务形态核对训练数据来源、知识产权和个人信息处理等适用要求。该判断以真实功能和数据流为前提,不能把所有终端助手一概归入同一处理模式。
退出和删除要对应到每一处留存
关闭功能、退出账号或卸载应用,不必然说明云端副本、日志、缓存、反馈样本和供应商侧留存已经同步处理。是否应当删除、停止使用或继续保存,需要结合处理目的、合同安排、法定义务、争议处理需要以及各类数据所在位置分别判断。
在得出结论前,至少还应补齐四项事实:本地与云端各保存什么;哪些主体能够访问;输入输出是否用于当前请求之外的目的;关闭功能或终止合作后,各处副本如何停止访问、返还或删除。若这四项事实无法从功能说明、权限设置、数据流和实际记录中对应起来,更准确的结论是处理边界尚未闭合,应先限制不必要的字段、云端发送和供应商访问,再决定是否扩大使用范围。
参考资料
- [1] 《中华人民共和国数据安全法》
- [2] 《中华人民共和国个人信息保护法》
- [3] 《中华人民共和国民法典》第八百四十三条至第八百四十五条
- [4] 《网络数据安全管理条例》
- [5] 《生成式人工智能服务管理暂行办法》