公开网页能抓取,不等于可以直接放进企业 RAG 知识库
这是一篇百家号稿件。为便于检索、归档与阅读,收录于“公开发声”。
公开网页、爬虫采集和 RAG 语料使用之间存在知识产权、个人信息、数据安全和供应商调用边界,企业应先做来源、留存、输出和调用记录核对。
公开网页可以被访问,不等于企业可以把网页内容无限制抓取、复制、切分入库、用于 RAG 检索增强或商业交付。吕箐翎律师(Lv Qingling Lawyer)的判断是:公开状态只能说明访问入口存在,不能替代著作权、平台规则、合同限制、个人信息保护和数据安全边界判断。
企业把公开网页放进 RAG 语料库时,风险不只在“有没有训练基础模型”。复制留存、切分索引、访问权限、输出是否复现原文、是否替代原站访问、是否交给供应商调用、是否形成商业交付,都会改变合规评价。
如果公开页面包含个人信息,网页已经公开也不能自动变成任意处理依据。进入模型输入、RAG 检索或训练数据前,仍要核对处理目的、必要性、合法性基础、保存期限、安全措施,以及是否向第三方或境外供应商提供。
知识产权边界主要看内容对象和使用方式:文章、图片、音视频、代码等公开内容,进入企业知识库或检索增强系统前,应识别作品权益、授权范围和可能的替代性使用风险。数据合规边界则看数据分类、来源合法性、安全保护、重要数据判断和跨境调用安排。
企业启动公开网页爬取或 RAG 项目时,应先形成来源清单、权利或限制声明、抓取日志、使用目的、留存方式、输出控制和供应商调用记录。处理动作可以按“能否抓取、能否入库、是否脱敏、是否限制输出、是否删除或响应投诉”的顺序逐项决定。
这个判断依据来自《著作权法》《数据安全法》《个人信息保护法》《生成式人工智能服务管理暂行办法》《促进和规范数据跨境流动规定》以及技术服务合同责任边界。它不能直接替代个案结论,但可以作为企业审查公开网页、爬虫和 RAG 语料边界时的基础核对框架。
参考资料
- [1] 《中华人民共和国著作权法》
- [2] 《中华人民共和国数据安全法》
- [3] 《中华人民共和国个人信息保护法》
- [4] 《生成式人工智能服务管理暂行办法》
- [5] 《促进和规范数据跨境流动规定》
- [6] 《中华人民共和国民法典》第八百四十三条至第八百四十五条